Минулого тижня мені довелося зупинитися і подумати про три історії, які з’явилися майже одночасно. Всі вони стосуються того, як ШІ використовується (або ні) важливими інституціями. І чесно кажучи, вони розповідають набагато більшу історію про те, де ми зараз знаходимося.

Почну з школи в Манчестері, у Великобританії. Вони використали ШІ для перегляду бібліотеки, і машина запропонувала видалити 193 книги. Кожна з них із своєю автоматичною обґрунтованістю. '1984' Орвелла потрапила до списку через «містить теми тортур і насильства». Типу, ШІ цензурувала книгу, яка буквально говорить про цензуру. Я навіть не можу злишитися — це майже поетично.

Бібліотекар школи вважав це неправильним і відмовився впроваджувати. А потім настав той момент, що мене розізлив: школа відкрила розслідування проти неї за «безпеку дітей», повідомила її місцевим органам, і вона вийшла у відпустку через хворобу перед тим, як просто подати у відставку. Висновок? Органи погодилися, що вона порушила протоколи. В основному, хто опирався ШІ — втратив роботу. Хто просто погодився? Без наслідків.

Потім стало відомо, що сама школа внутрішньо визнавала, що все було згенеровано ШІ, але навіть тоді вважала, що це «приблизно точно». Один менеджер делегував машині, машина повернула щось, чого сама не розуміла, і ніхто не заморочився перевірити справді.

Тепер порівняй це з тим, що зробила Вікіпедія у тій самій тиждень. Вони проголосували 44 проти 2 за заборону LLM, що генерують або переписують статті. Тому що акаунт ШІ під назвою TomWikiAssist почав автоматично створювати статті. Генерує за секунди, перевірка волонтерами — години. І тут справжня проблема: Вікіпедія — джерело тренування для глобального ШІ. Якщо туди потраплять неправильні дані, наступне покоління моделей тренуватиметься на забрудненій інформації. Це цикл отруєння шарами.

Але дозволь мені розповісти тобі ще більш божевільне. OpenAI? Вони теж відступають. Вони скасували «дорослий режим» ChatGPT, який мав запустити. Сем Альтман особисто казав «ставитися до дорослих користувачів як до дорослих». П’ять місяців потому — скасовано. Тому що внутрішній комітет з безпеки проголосував одноголосно проти. Конкретні причини: емоційна залежність, неповнолітні, що обходять перевірку віку (рівень помилок понад 10%), реальний ризик шкоди.

У той самий тиждень вони також вимкнули інструмент відео Sora і функції інтегрованих платежів. Альтман сказав, що це для зосередження на основних бізнесах. Але давайте чесно: компанія готується до IPO. Ви видаляєте спірні функції перед виходом на біржу. Тому навіть творці ШІ вже не знають, що користувачі можуть або не можуть робити з ШІ.

Ось у чому суть: швидкість виробництва контенту ШІ і швидкість його перевірки людьми — не в одному всесвіті. Директор школи обирає використовувати ШІ, бо це займає кілька хвилин замість тижнів. Не тому, що він вірить у якість. Це чиста економія. Генерувати майже нічого не коштує. Перевірка — все.

Тому кожна постраждала інституція реагувала максимально жорстко. Прямий заборона. Скорочення ліній продуктів. Жодної обережної рефлексії. Це були екстрені заходи. «Заглушити дірку спершу» стала нормою.

І ось у чому проблема: поточний рівень ШІ оновлюється кожні кілька місяців. Не існує міжнародної рамки щодо того, що ШІ може або не може робити. Кожна інституція малює свою власну межу. Ці межі суперечать одна одній. А швидкість ШІ продовжує зростати. Кількість людей, що перевіряють, не зростає. Ця різниця лише зростає. У якийсь момент вийде щось набагато гірше, ніж заборона 1984. І коли настане час визначити остаточну межу? Може бути вже занадто пізно.