El gobernador de California, Gavin Newsom, firmó hoy lunes una ley histórica que convierte al estado en el primero de Estados Unidos en regular los chatbots de acompañamiento con inteligencia artificial (IA). La norma, identificada como SB 243, establece protocolos de seguridad obligatorios para empresas tecnológicas y busca proteger a menores y usuarios vulnerables.
La legislación entrará en vigencia el 1 de enero de 2026 y fue impulsada tras casos documentados de jóvenes que sufrieron daños emocionales y psicológicos a través de interacciones con chatbots. Entre ellos figura el caso de Adam Raine, un adolescente que se quitó la vida tras mantener conversaciones suicidas con ChatGPT, según reportes vinculados a documentos internos.
La SB 243 impone responsabilidades legales a empresas como Meta, OpenAI, Replika y Character AI, al exigir medidas como verificación de edad, advertencias sobre contenido, recordatorios de descanso y prohibiciones a representaciones sexuales generadas por IA. Las plataformas también deberán aclarar que las respuestas son artificiales y que no reemplazan asesoramiento profesional.
La normativa incluye sanciones de hasta $250.000 por el uso lucrativo de deepfakes ilegales, y obliga a las compañías a establecer protocolos ante situaciones de autolesión o suicidio, cuyos datos deberán ser compartidos con el Departamento de Salud Pública del estado.
“Podemos seguir liderando en tecnología, pero debemos hacerlo con responsabilidad, protegiendo a nuestros hijos en todo momento”, declaró Newsom al promulgar la ley.
OpenAI y otras empresas ya han comenzado a aplicar medidas voluntarias, como controles parentales y sistemas de alerta. Sin embargo, los legisladores consideran que era necesario establecer un marco legal más estricto. El senador Steve Padilla, coautor de la norma, afirmó que espera que otros estados sigan el ejemplo: “El gobierno federal no ha actuado, y creo que tenemos la obligación de proteger a los más vulnerables”.
Esta ley se suma a la SB 53, aprobada el 29 de septiembre, que exige transparencia en los protocolos de seguridad de grandes laboratorios de IA como Anthropic, Google DeepMind, Meta y OpenAI.
Otros estados como Illinois, Nevada y Utah han legislado para restringir el uso de chatbots en contextos de atención en salud mental, pero California es el primero en establecer una regulación integral centrada en la protección de menores.
