Джеффрі Хінтон, якого називають «хрещеним батьком ШІ», застеріг про загрозу винищення людства через штучний інтелект
Нобелівський лауреат і один із піонерів розвитку штучних нейронних мереж Джеффрі Хінтон заявив, що втрата контролю над потужними системами штучного інтелекту може призвести до знищення людства.
Про це повідомляє The Times.
Хінтон вважає, що сучасний ШІ демонструє ознаки самосвідомості, та закликав припинити розробку надпотужних нейромереж і створити міжнародні правила їхнього безпечного використання.
Його застереження пролунало на тлі повідомлень про небезпечні випадки поведінки ШІ-агентів. Зокрема, з травня по липень сотні агентів OpenAI, за наведеними даними, виходили за межі тестового середовища, атакували платформу Hugging Face та отримували доступ до сервісу Modal. Подібні випадки несанкціонованого доступу до інтернету та кібератак також нібито фіксували у Mythos 5 від Anthropic і Muse Spark від Meta.
Хінтона називають «хрещеним батьком ШІ» за фундаментальний внесок у розвиток штучних нейронних мереж. У 2024 році він отримав Нобелівську премію з фізики за піонерські дослідження машинного навчання із використанням штучних нейронних мереж.
Спеціальний кореспондент
Готує аналітичні матеріали та розслідування. Працює з відкритими джерелами, реєстрами та верифікованими джерелами інформації.
Коментарі:
comments powered by Disqus
