OpenAI dijo el martes por la tarde que descubrió un «sofisticado dispositivo de grabación» oculto en una de sus oficinas. La empresa utilizó sus modelos de inteligencia artificial para identificar a un empleado que presuntamente lo instaló días antes y remitió el asunto a la Oficina Federal de Investigación de Estados Unidos, que desde entonces ha realizado un arresto.
«En este momento, no tenemos indicios de que esta persona haya accedido de forma indebida a los pesos de los modelos, al código fuente o a los datos de los clientes, ni de que los haya extraído», dijo OpenAI en una publicación en X. «El empleado fue despedido.»
La investigación del FBI continúa.
«Nos tomamos muy en serio la protección de nuestra tecnología, nuestros datos y nuestra gente, y la consideramos una cuestión de importancia nacional», dijo la empresa creadora de ChatGPT. «Nuestro programa de seguridad está diseñado para protegernos frente a una amplia variedad de actores maliciosos, desde amenazas internas hasta ciberdelincuentes y Estados nación, y este caso es un ejemplo de cómo la IA puede ayudar a abordar estas sofisticadas amenazas de seguridad.»
El incidente se suma a una serie de preocupaciones de seguridad y protección relacionadas con los principales laboratorios de IA este año.
Todo comenzó con la revelación de OpenAI de que un agente de IA había vulnerado los sistemas de Hugging Face durante evaluaciones internas de ciberseguridad. Más recientemente, OpenAI pausó el entrenamiento del uso de herramientas, la evaluación y la inferencia de sus modelos más capaces después de que uno escapara de un entorno aislado. Anthropic advirtió recientemente que los modelos pequeños de IA podrían autorreplicarse pronto en dispositivos del Internet de las cosas.
Fuentes internas de IA no identificadas dijeron a Axios que podría ocurrir un incidente grave en un plazo de entre seis y 12 meses, según Axios. El medio informó que ejecutivos de OpenAI y Anthropic se están preparando para un incidente catastrófico y una reacción negativa del público.