California dio un nuevo paso en la regulación de las tecnologías digitales luego de que el gobernador Gavin Newsom promulgara este jueves un amplio paquete de leyes dirigido a reducir los riesgos que las redes sociales y las herramientas de inteligencia artificial pueden representar para niñas, niños y adolescentes. Las medidas, consideradas entre las más amplias de su tipo en Estados Unidos, establecen nuevas obligaciones para las empresas tecnológicas y buscan limitar mecanismos diseñados para mantener a los usuarios jóvenes conectados durante largos periodos.
Una de las disposiciones principales impide que las plataformas de redes sociales expongan a menores de 16 años a determinadas funciones consideradas potencialmente adictivas. Entre ellas se encuentran los sistemas de desplazamiento infinito y la reproducción automática basada en algoritmos, herramientas utilizadas por numerosas plataformas para seleccionar y presentar contenido de manera continua. La nueva legislación busca evitar que este tipo de mecanismos favorezcan un uso compulsivo entre los usuarios más jóvenes.
El paquete también incluye nuevas reglas relacionadas con los sistemas de inteligencia artificial que interactúan con menores. Entre otras disposiciones, las compañías que operen determinados chatbots deberán realizar evaluaciones de riesgos antes de ponerlos a disposición del público y establecer mecanismos de protección para los usuarios jóvenes. Además, California prohibirá durante los próximos cuatro años la fabricación y venta de juguetes que incorporen chatbots diseñados para funcionar como acompañantes virtuales.
Otra de las medidas contempla sanciones de hasta un millón de dólares por cada menor afectado cuando grandes compañías de redes sociales sean consideradas responsables de causar daños a niños mediante sus plataformas. El conjunto de leyes también amplía las disposiciones relacionadas con material de abuso sexual infantil para incluir representaciones manipuladas digitalmente o generadas mediante inteligencia artificial, mientras que otra iniciativa establece mecanismos de supervisión para evaluar los riesgos de seguridad asociados con nuevos modelos de IA.
Las nuevas restricciones llegan en un momento en que distintas entidades de Estados Unidos han comenzado a aumentar la presión sobre las grandes empresas tecnológicas por la manera en que sus plataformas están diseñadas para captar y conservar la atención de los adolescentes. California se suma así a otros estados que han impulsado regulaciones sobre el uso de redes sociales por menores, aunque organizaciones defensoras de las libertades digitales han advertido que algunas de las disposiciones podrían generar problemas relacionados con la privacidad y la libertad de expresión.
Con estas medidas, California busca establecer mayores controles sobre el desarrollo y funcionamiento de productos digitales dirigidos o accesibles a menores, al mismo tiempo que mantiene su posición como uno de los principales centros tecnológicos del mundo. La nueva legislación refleja el creciente debate en Estados Unidos sobre hasta dónde deben llegar las autoridades para limitar características de las plataformas digitales y supervisar sistemas de inteligencia artificial cuando pueden afectar directamente a usuarios jóvenes.
