Pensar que la inteligencia artificial podría sustituir por entero procesos de pensamiento humano es un error grave. Un error del que te previene incluso la inteligencia artificial, si le preguntas.
La IA no razona, simplemente procesa algunos datos a una velocidad mayor, pero su manejo real de los hechos es bastante cuestionable.
Por ejemplo, los episodios de las llamadas “alucinaciones”, que son respuestas que el sistema genera sin ningún fundamento, solo por la necesidad de contestar, son frecuentes y le han sucedido incluso a algunos desarrolladores de la IA como fue el caso de Cursor.
Nos gustaría pensar que la inteligencia artificial resolverá algunas limitaciones y podría facilitar procesos reiterados o analizar numéricamente una gran cantidad de datos para que nosotros podamos tomar decisiones basados en tendencias o aproximaciones.
Pero deberíamos tener claro que si bien es una herramienta útil y potente, necesita supervisión y ajuste constante. No razona. No argumenta. Definitivamente no proyecta resultados que pueden derivar de interpretaciones de una ley.
Por eso resultó escandalosa la declaración de la diputada Olga Leticia Chávez Rojas en medio de una discusión en el pleno sobre la Ley del Sistema Nacional de Investigación e Inteligencia en Materia de Seguridad Pública.
La diputada admitió que no leyó completa la iniciativa que se iba a discutir, y presumió que ella le dio la tarea a la IA y le daba un resultado en 15 minutos.
Recargar toda la responsabilidad de criterio legislativo en una herramienta con fallas frecuentes a la hora de votar un dictamen, es por lo menos vergonzoso. Por menos de eso reprueban a los estudiantes en una materia.
Ignoro cuál fue la pregunta de la diputada a la inteligencia artificial. No sé si incluyó las adendas para que le diera los puntos más importantes. Dónde estaban las modificaciones que decidieron que no pasaran por discusión en comisiones y si esas las comparó con la legislación actual.
Me gustaría saber si pidió un diagnóstico de si se cumplían con los estándares de derechos humanos de las convenciones internacionales.
Quizá una buena oportunidad hubiese sido preguntarle si el conjunto de leyes que se han aprobado en las últimas semanas efectivamente constituyen diversos pasos para permitir una vigilancia permanente, sistemática y en tiempo real, como argumentan algunos activistas.
La queja no es que haya usado a la inteligencia artificial como recurso, sino que haya descargado en ella toda la responsabilidad de razonar y justificar el voto. Y sobre todo, el que solo ella haya admitido que lo hizo. Porque el dictamen tuvo 368 votos a favor con el mismo reto de leer más de 200 páginas de adenda en solo algunas horas.
De inicio el debate podría estar en el uso ético de la IA, pero creo que también nos debería traer a una discusión de la responsabilidad legislativa de cada uno de los diputados. Porque, y aquí la duda genuina, ¿a quién voy a reclamarle por mi derecho a la privacidad cuando ya no lo tenga por escrito en la ley?
@Micmoya
