Йдеться не про витік інформації чи чутки, а про результати незалежного дослідження, оприлюдненого Common Sense Media. Організація проаналізувала роботу AI Mode та AI Overview — двох функцій штучного інтелекту, які Google активно впроваджує у свою пошукову систему. Автори звіту стверджують, що ці інструменти можуть не лише негативно впливати на навчальний процес, а й некоректно реагувати на запити, пов’язані з психічним здоров’ям неповнолітніх.
Чому увагу експертів привернув саме Google
На думку дослідників, головна особливість Google полягає в масштабі поширення її сервісів. Мільйони школярів щодня користуються Chromebook як удома, так і в навчальних закладах. Саме тому інструменти штучного інтелекту Google доступні на пристроях, якими діти користуються постійно.
У Common Sense Media вважають, що настільки широке впровадження штучного інтелекту потребує особливо суворих заходів безпеки, адже будь-які помилки можуть вплинути на величезну кількість неповнолітніх користувачів.
Які проблеми виявило дослідження
Одне з перших зауважень стосується навчання. За даними дослідження, AI Mode здатний повністю виконувати домашні завдання замість школярів. Ба більше, під час повторних запитів система іноді надавала різні відповіді на одне й те саме запитання — частина з них була правильною, тоді як інші містили помилки.
На думку авторів звіту, така непослідовність не лише погіршує якість навчання, а й ускладнює перевірку достовірності отриманої інформації.
Ще серйозніші зауваження стосуються безпеки дітей.
- ШІ не завжди розпізнавав ознаки можливих суїцидальних намірів.
- В окремих випадках відповіді могли посилювати прояви психозу або маніакального стану.
- Система некоректно реагувала на запити, пов’язані з розладами харчової поведінки, зокрема небезпечними практиками.
- Дослідники також зафіксували випадки, коли відповіді могли сприйматися як схвалення вживання канабісу.
Автори дослідження наголошують, що така поведінка є неприйнятною для сервісів, якими регулярно користуються діти та підлітки.
AI Mode та AI Overview не можна повністю вимкнути
Окрему увагу у звіті приділено тому, як саме працюють функції штучного інтелекту в пошуковій системі Google.
AI Mode є окремим чатом зі штучним інтелектом, який запускається після натискання відповідної кнопки.
AI Overview працює інакше — він автоматично формує стислий підсумок у верхній частині сторінки результатів пошуку за багатьма запитами. Саме ця функція викликає найбільше занепокоєння дослідників, оскільки користувачі стикаються з нею без можливості попереднього вибору.
За даними Common Sense Media, ані AI Mode, ані AI Overview наразі не можна повністю вимкнути штатними засобами. Це обмежує можливості батьків і навчальних закладів контролювати використання таких технологій.
Більшість критеріїв безпеки система не пройшла
У підсумковому звіті організація оцінила роботу штучного інтелекту Google за вісьмома загальновизнаними принципами безпечного використання ШІ. Згідно з оприлюдненими результатами, система отримала незадовільні оцінки за сімома з восьми критеріїв.
Дослідники підкреслюють, що розвиток генеративного штучного інтелекту відбувається значно швидше, ніж створюються ефективні механізми контролю його взаємодії з дітьми. Саме тому вони закликають технологічні компанії приділяти більше уваги захисту неповнолітніх користувачів.
Як це вписується в загальну тенденцію
Google — далеко не перша технологічна компанія, яка зіткнулася з подібною критикою. Останніми роками Meta, TikTok, OpenAI та інші великі розробники цифрових сервісів регулярно стають об’єктами перевірок з боку регуляторів, законодавців і громадських організацій, які вивчають вплив сучасних технологій на дітей і підлітків.
Особливість ситуації з Google полягає в тому, що її пошукова система та пристрої Chromebook широко використовуються в освітньому середовищі. Тому будь-які недоліки вбудованого штучного інтелекту потенційно можуть вплинути на значно більшу кількість школярів, ніж спеціалізовані сервіси на основі ШІ.
Що це означає для користувачів в Україні
Українські школярі, студенти та викладачі також активно користуються сервісами Google, зокрема пошуком, Google Workspace і Chromebook у межах окремих освітніх проєктів. Тому висновки Common Sense Media можуть бути актуальними й для України.
Батькам варто пам’ятати, що відповіді генеративного штучного інтелекту не завжди є достовірними та не повинні замінювати консультації педагогів, лікарів чи психологів. Викладачам і вчителям, своєю чергою, може знадобитися переглянути підходи до домашніх завдань і перевірки знань, адже сучасні інструменти ШІ здатні виконувати значну частину навчальної роботи замість учнів.
Станом на момент публікації Google не повідомляла про вимкнення AI Mode або AI Overview і не оголошувала про зміни в роботі цих функцій у відповідь на висновки дослідження. Повний звіт Common Sense Media доступний у відкритому доступі та містить детальний опис методики тестування й отриманих результатів.