La transición de un modelo reactivo de quejas a un modelo proactivo de gobernanza por diseño altera la asignación de riesgos entre plataformas, creadores, empresas y el Estado. Por ejemplo, para una aplicación de redes sociales, si un usuario sube un reel con cambio de rostro, un clip de voz clonado, un discurso político generado por IA o un video «candid» alterado sintéticamente, la plataforma ya no puede permanecer satisfecha con una mentalidad pasiva de aviso y eliminación. Ahora se espera que busque declaraciones sobre si el contenido es sintético, verifique esa declaración a través de medidas técnicas apropiadas y adjunte etiquetas visibles cuando sea necesario. Eso significa que la presión de responsabilidad se desplaza aguas arriba, desde el manejo de quejas después de la publicación hasta el diseño previo a la publicación.
Además del punto de estrangulamiento legal del flujo de carga, también se somete a escrutinio legal el ejercicio del algoritmo de base de recomendación y impulso. Es bastante obvio que las aplicaciones de redes sociales no son simplemente plataformas que almacenan información personal y comercial, sino que también se basan en recomendar y potenciar contenido. Para las aplicaciones sociales, los motores de recomendación son el modelo de negocio. Cuanto más una plataforma cura el alcance, más difícil se vuelve reclamar pasividad en relación con el contenido que sus sistemas ayudaron a escalar. El escrutinio de las reglas no termina aquí. También llega al extremo de monitorear las herramientas de IA del creador, como el herramienta de embellecimiento, cambio de rostros, distorsión de rostros, etc.
