Sans annotateurs humains : le pari du Constitutional AI Anthropic
Comment Anthropic entraîne Claude à se corriger lui-même grâce à des principes écrits plutôt qu'à des humains. Un guide complet, dates et chiffres à l'appui.
alignement ia
4 articles sur ce sujet.
Laurent Daudet dénonce les fantasmes autour de l'IA rebelle
Le directeur exécutif de l'IA à l'ENS, Laurent Daudet, relativise les scénarios d'extinction humaine évoqués par des salariés d'Anthropic et OpenAI.
Bilal Chughtai : l'IA pourrait tous nous tuer
Un ancien ingénieur de Google DeepMind a averti lundi que l'IA avait le potentiel de "tous nous tuer", rejoignant une vague d'alertes similaires chez Anthropic.
Bilal Chughtai : l'IA pose un risque existentiel pour l'humanité
Bilal Chughtai, ancien ingénieur de Google DeepMind, affirme que l'IA pourrait « tuer tous les humains ». Il rejoint une série de chercheurs démissionnaires.