El gobernador de California, Gavin Newsom, promulgó el lunes una ley pionera en Estados Unidos que regula los agentes conversacionales o chatbots de inteligencia artificial (IA), un desafío a la Casa Blanca que promueve que dicha tecnología no pase por controles.
IA será regulada en California
Newsom tomó la decisión después de casos de adolescentes que se suicidaron después de sostener conversaciones con chatbots.
También te puede interesar: Embajador de EU bendice a Trump y lo llama ‘hacedor de paz’
“Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin límites necesarios y sin rendir cuentas”, dijo Newson tras promulgar la ley.
La normativa exige a los operadores implementar salvaguardas “críticas” en relación con las interacciones con chatbots de IA, explicó el senador demócrata Steve Padilla, que promovió esta ley.
Entre otras cosas, la ley impone la verificación de la edad de los usuarios, mostrar mensajes de advertencia periódicos y establecer protocolos de prevención del suicidio.
“La industria tecnológica está incentivada por captar la atención de los jóvenes y mantenerla a expensas de sus relaciones en el mundo real”, dijo Padilla antes de la votación del proyecto en el senado estatal.
Con estas medidas buscan evitar suicidios en adolescentes
El senador se refirió a los recientes suicidios de adolescentes, incluido el de un joven de 14 años en Florida, en 2024.
La madre del menor, Megan García, dijo en entrevista con diversos medios que su hijo Sewell, se había enamorado de un chatbot inspirado en un personaje de la serie “Juego de Tronos” en la plataforma Character.AI, que permite interactuar con personajes como si se trata de amigos o amantes.
Cuando Sewell luchaba con pensamientos suicidas, el chatbot le instó a “volver a casa”. Segundos después, Sewell se disparó con la pistola de su padre, según la demanda presentada por García contra Character.AI.
García reaccionó poco después de la promulgación de la ley: “Hoy, California ha asegurado que un chatbot compañero no pueda hablar con un niño o una persona vulnerable sobre el suicidio, ni podrá ayudar a una persona a planear su propio suicidio”, dijo.
“Por fin, hay una ley que requiere que las empresas protejan a sus usuarios que expresan ideas suicidas a los chatbots”, agregó.
No existen normas nacionales destinadas a frenar los riesgos de la IA en Estados Unidos, y la Casa Blanca promueve evitar la regulación de esta tecnología a nivel estatal.
