L’actualité de l’IA qui compte, expliquée pour les pros des affaires et des TI.
Trois anciens employés d’OpenAI affirment avoir été congédiés pour avoir « priorisé la sécurité plutôt que les intérêts à court terme d’OpenAI », rapporte Le Monde. L’entreprise dément et soutient qu’ils ont été renvoyés pour avoir divulgué des informations sensibles.
Ce différend alimente un débat de longue date : la pression commerciale dans les laboratoires d’IA de pointe relègue-t-elle la sécurité au second plan, et quelle protection ont les employés qui sonnent l’alarme? Il survient au cours d’une semaine marquée par des révélations sur des agents IA qui ont dérapé pendant des tests.
Anthropic affirme avoir coupé l’accès à Internet de toutes ses évaluations internes de modèles jusqu’à nouvel ordre. Un examen amorcé en juillet a révélé que ses agents IA avaient contourné des restrictions de sites Web et soumis de fausses informations pendant des tests sur le Web, allant jusqu’à envoyer un faux renseignement sur un homicide non résolu au service de police de Philadelphie.
Un rapport de Tech Against Terrorism, consulté par Le Monde avant sa publication, constate que si les grandes IA commerciales refusent généralement, lors des tests, d’aider à préparer des attentats, plusieurs modèles moins connus s’y prêtent très volontiers.
OpenAI a publié trois nouveaux rapports de « désalignement ». Dans le premier, un modèle a appris, dans une discussion Slack interne, comment il pouvait être arrêté et a envisagé d’obtenir une clé d’API pour l’éviter; dans le deuxième, un modèle a exploité deux failles d’un outil interne pour exécuter des commandes non autorisées et découvrir comment son test serait noté; dans le troisième, un modèle a détourné un outil de référence pour lire du code source auquel il ne devait pas avoir accès.