El gobernador Gavin Newsom promulgó una ley que regula los chatbots de IA en California tras casos de adolescentes que se suicidaron tras interactuar con ellos.
El gobernador de California, Gavin Newsom, promulgó una ley pionera en Estados Unidos que regula el funcionamiento de los chatbots de inteligencia artificial (IA), luego de registrarse varios suicidios de adolescentes vinculados con el uso de estas plataformas. La medida busca establecer controles que protejan a los menores y personas vulnerables frente a los riesgos de la tecnología no supervisada.
La nueva legislación exige la verificación de la edad de los usuarios, la implementación de recordatorios que informen que los chatbots son generados por IA y protocolos obligatorios de prevención del suicidio, que incluyen redirigir a los usuarios a servicios de emergencia en caso de expresar pensamientos autolesivos. Además, prohíbe que los chatbots se hagan pasar por profesionales de la salud y establece que los desarrolladores serán responsables por daños derivados de su uso.
El senador Steve Padilla, impulsor de la norma, afirmó que la industria tecnológica prioriza la atención de los jóvenes sin considerar su bienestar emocional. La ley también aumenta las sanciones contra el contenido sexual deepfake y marca un precedente legal en Estados Unidos, desafiando la postura federal que evita imponer controles sobre la IA.
Discusión sobre esto post