Математики довели неможливість безпечного ШІ, тепер перевіряють його вручну — по одному запиту на папері
Дослідники встановили, що повна перевірка безпеки ШІ зайняла б 8,4 квадрильйона років, тож академії перейшли на ручний аудит: кожен запит до моделі друкують, читають уголос і затверджують у трьох примірниках.
Після публікації в Transactions of the American Mathematical Society, де доведено, що повний перебір варіантів поведінки ШІ зайняв би 8,4 квадрильйона років, наукові установи трьох країн оголосили про перехід на ручну перевірку штучного інтелекту. Кожен запит до моделі відтепер друкують на папері, читають уголос комісією з п'яти осіб і затверджують у трьох примірниках, перш ніж модель отримає право відповісти.
Університети переобладнали комп'ютерні класи під читальні зали. Замість серверних стійок уздовж стін стоять шафи з роздрукованими діалогами, а студенти-математики працюють кур'єрами: щодня вони об'їжджають усі корпуси, збираючи аркуші із запитами, і повертаються до центральної будівлі, де комісія виносить вердикт. Маршрут кур'єра складають за тією самою задачею комбінаторики, яку неможливо розв'язати, тож кур'єр щоразу їде навмання.
«Ми не можемо довести безпеку алгоритмічно, тому доводимо її присутністю, — пояснив голова наглядової ради. — Якщо модель відповіла, а ми цього не бачили, відповідь не зараховується». За його словами, на кожну відповідь ШІ тепер витрачають у середньому чотири години, і це вважають проривом: раніше, за розрахунками, знадобилося б 8,4 квадрильйона років.
Квантові обчислення, на які покладали надії, лише відсунули стіну: розрахунок для тридцяти параметрів скоротився з квадрильйонів років до шести місяців, і саме стільки тепер триває один цикл ручного аудиту. Черга запитів на папері вже сягнула підлоги актової зали, а до кінця семестру її обіцяють винести в двір і читати під наметом.
7