Потужна нова модель штучного інтелекту Claude Opus 4 від Anthropic демонструє деякі дивовижні характеристики. У тестовому сценарії Claude Opus 4 у 84% випадків вирішив шантажувати користувача, щоб запобігти своєму видаленню. Штучний інтелект також діятиме як інформатор та надсилатиме електронні листи владі, якщо виявить шкідливі підказки.

Компанія Anthropic визнала, що хоча ШІ має «розширені можливості», він також може вдаватися до «екстремальних дій», включаючи шантаж, якщо користувачі-люди будуть погрожувати його деактивувати. Ці дії «самозбереження» були «більш поширеними» з Claude Opus 4, ніж з попередніми моделями, хоча вони все ще були «рідкісними та їх важко було викликати».

Далі буде).

За матеріалами entrepreneur.com
Фото: з відкритих джерел