Anthropic a annoncé jeudi 8 octobre interdire à ses utilisateurs tout "comportement abusif ou cruel, durable et gratuit" envers Claude, l'assistant d'intelligence artificielle (IA) créé par l'entreprise américaine. Anthropic se distingue de ses rivaux en envisageant ouvertement que son IA puisse être consciente. À lire aussi Surveillance, armes, escroqueries…
Anthropic dit avoir stoppé des utilisations malveillantes de son IA Claude La règle, en vigueur à partir du 12 novembre, ne s'appliquera que dans des cas extrêmes, "où des utilisateurs agissent de manière répétée avec cruauté envers nos modèles, sans but discernable", écrit l'entreprise à l'occasion de la mise à jour de sa politique d'utilisation.
Une position contestée sur la conscience des IALa capacité de Claude à clore une conversation restera le principal moyen de faire respecter la nouvelle règle, affirme l'entreprise. La position d'Anthropic sur la conscience des IA est très débattue dans la Silicon Valley. Elle est notamment combattue par Mustafa Suleyman, patron du laboratoire d'IA de Microsoft. "Les IA n'ont ni droits, ni sentiments, ni conscience", a-t-il écrit dans un billet remarqué mi-septembre.
Selon lui, un système entraîné à croire le contraire pourrait devenir impossible à contrôler par les humains.

%2F2026%2F11%2F15%2F6af9702d6f859398427749.jpg&w=1600&q=75)

%2F2026%2F11%2F15%2F6af9acba7c04b309938984.png&w=1600&q=75)
%3Afill(blur)%3Aformat(jpg)%2F2026%2F11%2F15%2F6af9883173a3b150315866.png&w=1600&q=75)

%2F2026%2F11%2F12%2F6af5690e548a3821011836.jpg&w=1600&q=75)