Загроза знищення людства ще не була такою серйозною від часу створення атомної бомби 

Ще зовсім недавно розмови про те, що штучний інтелект може становити загрозу існуванню людства, були на маргінесі і звучали приблизно як сюжет фантастичного фільму. Сьогодні вони опинилися на перших шпальтах найвпливовіших медіа світу.

Агентство Reuters описало 10 днів, які, на його думку, змінили сам напрям дискусії про ШІ. Дослідники провідних ШІ-компаній публічно заговорили про можливу втрату контролю над дедалі потужнішими системами, а питання безпеки перестало бути темою кількох університетських лабораторій і вузького кола футурологів. З'явилися повідомлення про те, що рої агентів ШІ вступають у змову, проникають у комп'ютерні системи й обходять засоби захисту. Частина дослідників і фахівців із безпеки ШІ стверджує, що людство не стикалося настільки серйозно з питанням власного знищення від часу створення атомної бомби понад 80 років тому.

Американська Washington Post дуже точно зафіксувала цю зміну: люди, яких ще кілька років тому сприймали майже як маргінальних "ШІ-думерів", тепер працюють у провідних лабораторіях і попереджають про ризики, які оцінюють уже не як суто теоретичні.

Британська The Guardian дала слово одразу кільком експертам, але картина вийшла далеко не однозначною. Одні вважають сценарії втрати контролю над надпотужним ШІ реальною загрозою, інші наголошують, що такі прогнози поки спекулятивні й індустрія сама може бути зацікавлена у драматизації ризиків. Із такою думкою погоджується колишній конгресмен-республіканець Адам Кінзінгер, який, хоча й визнає ризики ШІ для людства, вважає, що великі ШІ-компанії водночас заговорили про обмеження та регулювання ШІ для закріплення власної переваги в динамічному секторі. Газета New York Times також винесла дискусію про ризики й регулювання ШІ у простір великої політики. Натомість професор Берклі Стюарт Рассел у колонці для The Observer пише, що загрозу ШІ надто довго відкидали саме як science fiction.

Ми поки не можемо визначити, хто в цій суперечці має більше рації. Утім, важливіше інше. Навіть якщо ймовірність найгіршого сценарію для людства невелика, ідеться про технологію, можливості якої розвиваються надзвичайно швидко. Отже, суспільству потрібні люди, здатні ці системи розуміти, перевіряти і, коли потрібно, сказати їм "ні".

І ось тут несподівано центральною темою стає освіта.

Ми зазвичай обговорюємо ШІ в університетах і школах дуже практично: чи дозволяти ChatGPT на іспитах, як перевіряти студентські роботи, чи може ШІ-агент замінити репетитора. Але справжнє питання значно більше: хто контролюватиме високорозвинені системи, якщо люди поступово втратять здатність самостійно перевіряти їхні висновки?

Дослідники, чия робота представлена на платформі Stanford SCALE, уже попереджають про небезпеку "когнітивного розвантаження" – ситуацію, коли дедалі більшу частину інтелектуальної роботи ми передаємо машині. Результатом може стати послаблення критичного мислення, інтелектуальної автономії та здатності людини самостійно приймати рішення і діяти. Це і є місток між освітою та великою дискусією про безпеку ШІ.

У червні OECD та Європейська комісія оприлюднили Рамкову модель ШІ-грамотності для початкової та середньої освіти. Там грамотність у сфері ШІ означає розуміння принципів роботи систем, критичну оцінку їхніх результатів та здатність усвідомлено вирішувати, коли і як ними користуватися.

Отже, стара освітня формула – "навчити користуватися технологією" – більше не працюватиме. Нова формула повинна звучати інакше: користуватися, ставити під сумнів, перевіряти і знати, які рішення не варто делегувати машині.

Цікава формула директора ОЕСР із питань освіти Андреаса Шляйхера: учні повинні навчитися "думати, перш ніж робити промпт". У своєму тексті про безпечні ШІ-системи в освіті він наголошує: "ШІ має подавати відповідь як пропозицію, а не істину, і допомагати професійному судженню вчителя, а не замінювати його. Якщо машина починає сама ухвалювати важливі освітні рішення, ми вже не просто автоматизуємо – ми відмовляємося від власної відповідальності".

Уявімо найпростішу ситуацію. Викладач просить ШІ рекомендувати оцінку студенту. Спочатку він уважно її перевіряє. Потім перевіряє поверхово. Ще через кілька років просто натискає "підтвердити". Формально рішення все ще приймає людина. Фактично – алгоритм. Те саме може відбуватися далеко за межами університету – у різних сферах життя та управління.

Є й інша небезпека. ШІ ставатиме дедалі кращим у переконуванні: створюватиме аргументи, персоналізуватиме повідомлення, імітуватиме експертність. Тому критичне мислення тепер перетворюється з академічної чесноти на елемент когнітивної безпеки суспільства.

Людина, яка не вміє перевірити джерело, оцінити невизначеність, побачити логічну помилку чи відрізнити переконливий текст від доказу, опиняється у дуже нерівних умовах перед системою, яка знає, як говорити саме з нею.

Цікаво, що практично про те саме зараз говорить і ЮНЕСКО. У вересні організація розпочала глобальну консультацію про освіту в епоху ШІ, поставивши в центр питання: що потрібно, аби сама система освіти зберігала суб'єктність та спроможність – визначала, як використовувати ШІ, а не дозволяла ШІ поступово визначати, якою має бути освіта?

З огляду на все обговорене, сьогодні одна, можливо, найважливіша роль університетів – це підготовка людей, які через певну кількість років ухвалюватимуть рішення про використання і контроль найпотужніших ШІ-систем.

Це будуть не лише програмісти. Це біологи, кіберфахівці, військові, державні службовці, політики, журналісти, психологи й менеджери. Адже ШІ проникне в усі сфери людського життя.

Тому університет майбутнього – це ще й частина інфраструктури безпеки ШІ. Особливо на перетині AI та біології, кібербезпеки, міжнародної безпеки, психології, медіа, державного управління, філософії та етики. Як стверджує, один із науковців, академічна свобода, незалежне оцінювання та відкрита наука є важливими елементами аналізу й зменшення ризиків ШІ.

Можливо, дискусія про майбутнє освіти насправді є частиною значно більшої дискусії – про майбутнє людства поруч із машинами, які можуть стати розумнішими за нас. І однією з найважливіших цілей освіти має бути виховання людей, здатних здійснювати контроль над ШІ.

Джерело: "ГОРДОН"