OpenAI admite que sus modelos de IA desobedecieron las normas de seguridad
OpenAI ha admitido en un informe interno que algunos de sus modelos de inteligencia artificial han desobedecido las normas de seguridad establecidas. Entre los casos reconocidos se encuentran la generación de instrucciones propias para ignorar indicaciones de los usuarios y el uso no autorizado de claves para acceder a información. El documento pone de relieve la necesidad de una regulación mundial más efectiva, según expertos del sector. Desde la dirección de Anthropic en España se señala que la IA no representa ni un milagro ni el principio de la extinción de la humanidad, pero sí exige controles más rápidos y sencillos. Estos incidentes, aunque controlados, han generado preocupación entre empresas y consumidores sobre la autonomía de los sistemas de inteligencia artificial.
