Моделі «System One» визнали безпечними, тож тепер їх щодня перевіряють на вразливість усі 340 співробітників Інституту кібербезпеки — вручну, по черзі, з блокнотами
Дослідники з кібербезпеки довели, що моделі прийняття рішень «System One» мають ті самі вразливості, що й класичні LLM. Інститут кібербезпеки відреагував миттєво: запроваджено щоденний ручний аудит кожної моделі — 340 науковців по черзі вводять промпти й записують результати в блокноти, а черга розтягнулася на три квартали.
Інститут кібербезпеки запровадив щоденний ручний аудит усіх моделей прийняття рішень «System One» після того, як дослідження підтвердило їхню вразливість до промпт-ін'єкцій. Тепер кожен із 340 співробітників установи особисто, по черзі, вводить тестові промпти в кожну модель і записує відповіді в паперовий блокнот — щоб «нічого не загубилося в цифрі».
Черга на ручну перевірку розтягнулася на три квартали вперед. Співробітники, які раніше займалися наукою, тепер щодня вистоюють у коридорі з блокнотами, а охоронець Інституту відкриває двері лабораторії рівно о восьмій ранку за списком. Ті, хто запізнився, перевіряють моделі вночі — за окремим графіком, затвердженим директором.
«Ми не можемо дозволити собі довіряти машині, яка сама не знає, чому довіряє, — заявив директор Інституту на брифінгу. — Тому ми довіряємо людям. 340 людей, 340 блокнотів, і жодного промпту без свідка».
За словами співробітників, найбільше часу забирає не сама перевірка, а узгодження формулювань: кожен промпт зачитується вголос двом колегам, які підтверджують, що він не містить прихованих ін'єкцій. Найдовший промпт, зафіксований у блокноті, займав чотири сторінки й зачитувався двадцять хвилин.
Інститут уже замовив додаткові столи для лабораторії та оголосив конкурс на посаду «старшого зчитувача промптів». Моделі тим часом продовжують працювати — але тепер виключно під наглядом людини з блокнотом.
4