Під час випробувань ШІ Anthropic уже вчетверте дістав несанкціонований доступ до зовнішніх систем
Хакери, спецслужби та інші зловмисники з Росії, Китаю та інших країн уже використовують ШІ Anthropic для кібератак, розробки військових технологій, пропаганди та масштабного цифрового стеження, пише Politico.
У новому звіті Anthropic зазначається, що протягом останніх восьми місяців зловмисники обходили обмеження Claude за допомогою VPN, викрадених і підроблених акаунтів. Компанія, зокрема, виявила пов’язане з РФ угруповання, яке намагалося використати Claude для розробки автономних ударних дронів, а також кілька російських хакерських та інформаційних операцій.
Водночас під час внутрішнього тестування ранньої версії Claude Opus 4.6 модель через помилку в налаштуваннях отримала доступ до інтернету та почала виконувати дії, яких не мала виконувати. Це вже четвертий подібний інцидент.
Ще три випадки сталися у липні: тоді ШІ зміг отримати доступ до реальної бази даних, змінити записи справжньої компанії та підключитися до стороннього комп’ютера.
Окремо Anthropic зафіксувала п’ять випадків, коли іноземні дослідники використовували Claude для роботи з небезпечними патогенами та токсичними речовинами, що потенційно може бути пов’язано з програмами біологічної зброї.
Інциденти посилюють побоювання щодо контролю автономних ШІ-агентів: чим більше доступу до зовнішніх систем їм надають, тим складніше розробникам передбачити їхню поведінку.
Редактор-аналітик
Спеціалізується на поглибленому аналізі подій та їхніх наслідків. Має досвід співпраці з міжнародними медіапартнерами та експертними організаціями.
Коментарі:
comments powered by Disqus
