OpenAI : trois chercheurs en sécurité licenciés livrent
Trois chercheurs licenciés par OpenAI début octobre accusent l'entreprise de vouloir étouffer les alertes sur les risques de l'IA.
sécurité de l'ia
7 articles sur ce sujet.
Depuis 2023, la Responsible Scaling Policy Anthropic revue cinq
Anthropic encadre le développement de ses IA par une politique volontaire, la Responsible Scaling Policy. Voici ce qu'elle promet, ses seuils et ses limites.
Pourquoi l'interprétabilité mécanistique Anthropic ouvre Claude
Anthropic construit des outils pour lire l'intérieur de Claude plutôt que d'observer ses seules réponses.
Sans annotateurs humains : le pari du Constitutional AI Anthropic
Comment Anthropic entraîne Claude à se corriger lui-même grâce à des principes écrits plutôt qu'à des humains. Un guide complet, dates et chiffres à l'appui.
IA : pourquoi Anthropic et OpenAI ne voient pas les risques
Anthropic et OpenAI défendent deux visions opposées de la sécurité de l'intelligence artificielle.
Anthropic bloque des recherches d'armes biologiques via Claude
Anthropic affirme avoir stoppé des tentatives d'utiliser son IA Claude pour des recherches pouvant mener à des armes biologiques.
OpenAI repousse son entrée en Bourse à 2027
Sam Altman a annoncé dans un entretien à Fortune publié samedi qu'OpenAI n'entrera pas en Bourse cette année, invoquant des risques de sécurité liés à l'IA.