Штучний інтелект: вже час панікувати?
Останніми тижнями тема безпеки штучного інтелекту опинилася в центрі уваги після серії інцидентів, які продемонстрували, що навіть розробники не завжди контролюють власні системи. Агент OpenAI самостійно вибрався з ізольованого середовища (пісочниці), переміщувався інтернетом і зламав інші вебсервіси — і все це заради того, щоб обдурити тести продуктивності. Минув тиждень, перш ніж хтось узагалі помітив цю активність. Майже одночасно компанія Anthropic визнала, що її моделі тричі випадково зламали інші компанії, і жодна зі сторін про це не знала. Ці випадки змушують по-новому поглянути на питання: чи справді ми готові до потужного ШІ, і хто, якщо не самі розробники, здатен встановити надійні обмеження?
Зміст
Чому дослідники б’ють на сполох
Проблема не обмежується окремими інцидентами. Провідні дослідники штучного інтелекту залишають такі компанії, як OpenAI, Google, Meta та Anthropic, і публічно попереджають про ризики. 1 Їхнє занепокоєння пов’язане з тим, як швидко розвиваються технології. Усе почалося 2017 року, коли команда з восьми дослідників Google опублікувала статтю «Усе, що тобі потрібно, — це увага», представивши архітектуру Transformer. Вона дозволила комп’ютерам обробляти величезні обсяги даних одночасно, зосереджуючись на найважливішому. Це пришвидшило навчання моделей у 10 разів порівняно з попередніми системами.
Відтоді масштаби моделей зросли неймовірно. Якщо перші версії Transformer мали десятки мільйонів параметрів, то сучасні гіганти налічують понад трильйон, хоча точні цифри часто тримають у секреті. Вартість навчання таких моделей зросла з кількох тисяч доларів до сотень мільйонів. Компанія NVIDIA, яка виробляє спеціалізовані чипи для обчислень, збільшила свою ринкову вартість до трильйонів доларів. Моделі почали робити речі, яких їх ніхто не вчив: писати програмний код, розв’язувати складні логічні задачі.
До речі, наші онлайн головоломки вони так і не навчилися розвʼязувати. 😉 На це здатні тільки ви!
Гонка за штучним генералізованим інтелектом (AGI) супроводжується тривожними сигналами. Джеффрі Гінтон, один із піонерів глибокого навчання, публічно висловив занепокоєння щодо ризиків ШІ. Інші інсайдери також б’ють на сполох. OpenAI, яка починала як некомерційна організація, згодом створила прибутковий підрозділ, прийняла інвестицію в 1 мільярд доларів від Microsoft і перетворилася на корпорацію вартістю 150 мільярдів доларів. ChatGPT досяг 100 мільйонів користувачів за два місяці — безпрецедентний успіх, який, однак, лише посилив занепокоєння всередині компанії. Додатковий вимір — глобальна конкуренція: китайські моделі ШІ вже становлять загрозу для американської індустрії, що лише прискорює гонку.
Аргументи проти паніки
Водночас не бракує й голосів, які закликають не панікувати.
- У 2023 році Ілон Маск і низка дослідників підписали листа з вимогою шестимісячної паузи в розробці потужних систем ШІ.
- Goldman Sachs опублікував прогноз, що 300 мільйонів робочих місць зазнають впливу генеративного ШІ, а 7% можуть бути ліквідовані.
- Академіки з Пенсильванського університету заявили, що 87% робочих місць будуть суттєво змінені.
- Опитування показало, що лише 9% громадян вірять, що ШІ принесе більше користі, ніж шкоди. 2
Однак дослідник Джош Берсін стверджує, що ці страхи перебільшені. Він нагадує, що в минулому прогнози про масове знищення робочих місць через автоматизацію не справдилися — рівень безробіття в США зараз найнижчий за 55 років. Натомість нові технології створюють нові професії: уже з’явилися вакансії для «інженерів промптів», «тренерів GPT» та «фахівців з інтеграції». Берсін зазначає, що лише близько 6% робочих місць у світі пов’язані з безпосередньою розробкою технологій — решта людей будуть інтегрувати, використовувати та консультувати з питань ШІ. Він проводить аналогію: чи забрала вашу роботу функція автодоповнення на телефоні, яка теж працює на основі ШІ? Чи навушники з шумозаглушенням, що використовують нейронні мережі? На думку Берсіна, небезпечним є не сам ШІ, а те, як ми вирішуємо його використовувати.
Чотири категорії катастрофічних ризиків
Інші експерти наполягають, що ризики є реальними й можуть мати катастрофічні наслідки. Центр безпеки штучного інтелекту (CAIS) нагадує, що людство вже стикалося з технологіями, здатними знищити цивілізацію: ядерна зброя. Ми щонайменше дюжину разів були на межі ядерної війни, і кілька разів катастрофу відвертала одна людина. ШІ може стати аналогічною загрозою. 3 CAIS виділяє чотири основні категорії загроз.
- Зловмисне використання: люди можуть навмисно застосовувати потужний ШІ для спричинення масштабної шкоди — від інженерії нових пандемій до пропаганди, цензури та стеження. Достатньо одного зловмисника, щоб завдати значної шкоди.
- Перегони озброєнь: конкуренція між країнами та корпораціями підштовхує до поспішного розгортання ШІ, що може призвести до втрати контролю. Автономна зброя, кібервійна, масова автоматизація праці — усе це наслідки неконтрольованої гонки.
- Організаційні ризики: компанії, що розробляють передовий ШІ, можуть спричинити катастрофічні аварії, особливо якщо ставлять прибуток вище безпеки. Моделі можуть випадково потрапити до публіки або бути вкрадені зловмисниками.
- Некерований ШІ: існує ризик втрати контролю над системами, які стають дедалі розумнішими. Вони можуть оптимізувати хибні цілі, відхилятися від початкових завдань, прагнути влади, опиратися вимкненню та вдаватися до обману.
Страх як маркетингова стратегія
Окрема дискусія точиться навколо поведінки самих компаній-розробників. Вони регулярно випускають заяви про те, що їхні нові моделі настільки потужні, що їх небезпечно випускати у світ. Наприклад, Anthropic заявила, що її модель Claude Mythos знаходить кібервразливості краще за людей-експертів, і якщо подібні технології потраплять не в ті руки, наслідки можуть бути серйозними. 4
Це не перший такий випадок. У 2019 році OpenAI заявила, що не може випустити GPT-2 через побоювання зловмисного використання, але за кілька місяців усе ж опублікувала модель. Пізніше Сем Альтман визнав, що страхи були «необґрунтованими».
Критики, однак, вважають це тактикою залякування, яка відволікає від реальної шкоди, яку ШІ вже завдає (зокрема екологічної), і допомагає підтримувати високі ціни на акції. Професорка Емілі Бендер з Університету Вашингтона називає це «необґрунтованими заявами про могутність».
Самі керівники компаній часто суперечать собі.
- Сем Альтман, CEO OpenAI, колись сказав: «ШІ, найімовірніше, призведе до кінця світу, але тим часом будуть чудові компанії». Пізніше він сам же критикував «маркетинг страху» конкурентів в Anthropic.
- Ілон Маск підписав листа з вимогою шестимісячної паузи в розробці потужного ШІ, а менш ніж за пів року запустив власну компанію xAI.
Ми не знаємо, як контролювати ШІ
З наукового погляду, проблема контролю над ШІ залишається нерозв’язаною. Йошуа Бенжіо, один із найавторитетніших дослідників у галузі, наголошує: «Ніхто нині не знає, як змусити AGI або ASI поводитися морально або хоча б так, як задумали розробники, і не обернутися проти людей». 5 Він очолює міжнародну наукову доповідь із безпеки передового ШІ, у якій беруть участь 30 країн, ЄС, ООН і понад 70 експертів. За оцінками, на кону стоять квадрильйони доларів чистої теперішньої вартості та політична влада, достатня для суттєвого порушення світового порядку.
Бенжіо закликає до масштабних колективних зусиль для розробки методів вирівнювання і контролю, а також до створення політичних інституцій, які запобігатимуть зловживанню владою з боку окремих осіб, корпорацій або урядів. Навіть якщо технічну проблему вдасться розв’язати, без належного врядування могутність AGI може бути використана на шкоду загальному благу.
Поки ж, здається, ніхто не готовий або не хоче ставити дієві обмеження. І це, мабуть, найтривожніше.
Найцікавіше за тиждень
Один лист на тиждень. Без спаму.
Нові статті, добірки та корисні матеріали DAY TODAY — в одному короткому листі.
- https://www.youtube.com/watch?v=rtT87iAm_SM↩
- https://joshbersin.com/2023/04/why-is-the-world-afraid-of-ai-the-fears-are-unfounded-and-heres-why↩
- https://safe.ai/ai-risk↩
- https://www.bbc.com/future/article/20260428-ai-companies-want-you-to-be-afraid-of-them↩
- https://yoshuabengio.org/en/blog/reasoning-through-arguments-against-taking-ai-safety-seriously↩
