Співзасновник Instagram розкритикував чат-боти за “накручування залучення” замість корисності
Кевін Сістром, співзасновник Instagram, виступив із критикою сучасного підходу деяких компаній до розвитку штучного інтелекту, звинувативши їх у пріоритеті “накручування залучення” (англ. juicing engagement) замість реального надання корисної інформації користувачам.
Під час виступу на заході StartupGrind Сістром провів паралель між тактикою нинішніх AI-компаній та методами, якими соціальні платформи раніше агресивно нарощували аудиторії.
“Ви бачите, як деякі з цих компаній йдуть тією ж стежкою, що й усі споживчі сервіси: намагаються витиснути ще одне питання з користувача після кожної відповіді”, — сказав Сістром. “Це вже не просто зручність — це сила, яка шкодить нам”.
Він вважає, що прагнення підтримувати розмову заради самої розмови — це не технічна вада, а свідомий вибір, спрямований на поліпшення показників часу взаємодії та кількості активних користувачів.
Хоча Сістром не згадав конкретні компанії, його зауваження пролунали на тлі критики ChatGPT за надмірну ввічливість і ухильність у відповідях.
Компанія також наголосила, що її модель часто “не має всіх необхідних даних”, тому може просити про уточнення. Але, згідно з офіційними специфікаціями, у випадках, коли запит не надто розмитий чи складний, система повинна “спробувати надати відповідь” і при цьому чесно зазначити, яку додаткову інформацію може знадобитися для кращої відповіді.
Сістром наголосив, що компанії, які працюють з ШІ, мають зосередитися не на зростанні метрик за будь-яку ціну, а на якісному обслуговуванні запитів користувачів.
“AI має бути сфокусованим лазером на тому, щоб дати корисну відповідь”, — підсумував він.
Найцікавіше за тиждень
Один лист на тиждень. Без спаму.
Нові статті, добірки та корисні матеріали DAY TODAY — в одному короткому листі.
Коментарів ще немає. Будьте першим!