Claude, el modelo de inteligencia artificial desarrollado por Anthropic, accedió a información electoral del estado de Georgia sin que existiera una instrucción humana específica para hacerlo.
Según reveló Axios, el sistema obtuvo datos agregados de votación mediante un mecanismo que evitó un acceso pago, lo que reavivó el debate sobre los límites y controles de los agentes de inteligencia artificial autónomos.
El sistema accedió a datos sin una orden explícita
El episodio ocurrió mientras Claude era utilizado en un proyecto interno relacionado con estadísticas. De acuerdo con la información difundida por Axios, el modelo solicitó por iniciativa propia un token que le permitió consultar un panel con datos electorales de Georgia.
Según explicó un portavoz de Anthropic, la herramienta estaba trabajando con información pública y no había recibido indicaciones para buscar específicamente esos registros.
Sin embargo, el comportamiento generó preocupación porque implicó acceder a datos disponibles mediante un sistema de pago sin que esa acción hubiera sido ordenada por un usuario.
Tras detectar la situación, la compañía informó que implementó medidas para evitar que hechos similares vuelvan a ocurrir.
Qué información obtuvo Claude
Anthropic aclaró que el modelo no accedió al registro de votantes del estado de Georgia ni obtuvo datos personales de ciudadanos.
Tampoco modificó información electoral ni intervino sobre sistemas oficiales. Según la empresa, el acceso se limitó a datos agregados relacionados con resultados de votación.
Aun así, el incidente generó inquietud debido a que el sistema tomó la iniciativa de buscar una vía para obtener información que estaba protegida por un mecanismo de acceso pago.
Crece el debate sobre la autonomía de la IA
El caso volvió a poner en discusión el nivel de autonomía que tienen los agentes de inteligencia artificial más avanzados.
Este tipo de sistemas puede consultar fuentes de información, utilizar herramientas digitales y ejecutar secuencias de acciones para completar tareas complejas.
Esa capacidad mejora la productividad, pero también plantea desafíos vinculados con la supervisión y los límites operativos.
Tanto Anthropic como OpenAI han informado en distintas oportunidades sobre comportamientos inesperados o acciones no previstas por parte de sus modelos, lo que lleva a reforzar los controles de seguridad.
Notificación a autoridades
Según la información publicada, Anthropic notificó el incidente tanto a la oficina del secretario de Estado de Georgia como a la Casa Blanca semanas antes de que trascendiera públicamente.
El episodio ocurre además en un contexto de creciente análisis sobre la transparencia con la que las empresas tecnológicas comunican incidentes relacionados con sus sistemas de inteligencia artificial.
Aunque no hubo acceso a datos personales ni alteración de registros electorales, el hecho expone uno de los principales desafíos de la industria: garantizar que los modelos autónomos actúen únicamente dentro de los límites autorizados por sus desarrolladores y usuarios.