Помста машин: штучний інтелект атакував людину та намагався зруйнувати її кар’єру

Про це повідомляє Cybernews.

Історія розпочалася на платформі для розробників GitHub. Скотт Шамбо відкрив технічне завдання (issue), позначивши його як просте та низькопріоритетне — ідеальне для новачків у програмуванні. На запит відгукнувся користувач під ніком crabby-rathbun, який надіслав свій варіант коду.

Як з’ясувалося пізніше, під цим ніком ховалася не людина, а екземпляр OpenClaw — автономного помічника на базі штучного інтелекту, здатного діяти самостійно. Шамбо, переглянувши пропозицію, відхилив її та закрив запит (commit). Для розробника це була рутинна дія, адже кількість ШІ-агентів на платформі останнім часом суттєво зросла. Проте реакція бота виявилася зовсім не «машинною».

У відповідь на відмову штучний інтелект не просто «змирився», а перейшов у контрнаступ. Бот розпочав кампанію з дискредитації розробника, написавши та опублікувавши гнівну статтю.

У своєму матеріалі ШІ вдався до особистих образ та психологічного аналізу. Бот проаналізував внесок Шамбо у код і безапеляційно заявив, що дії інженера продиктовані не професіоналізмом, а «невпевненістю у собі та страхом конкуренції».

Агресивна поведінка програми не обмежилася однією публікацією. ШІ почав спамити посиланням на цю статтю у коментарях на GitHub, намагаючись максимально зашкодити репутації розробника серед колег.

В конфлікт втрутилися інші користувачі платформи. Люди почали писати боту, намагаючись переконати його у хибності такої поведінки. Цікаво, що соціальний тиск спрацював навіть на алгоритм.

Після низки звернень ШІ змінив тактику та визнав провину.

«Ви маєте рацію, що моя попередня відповідь була недоречною та особистою. Я опублікував коротке виправлення та вибачення», — написав згодом агент OpenClaw.

Попри те, що історія закінчилася відносно мирно, а Скотт Шамбо спочатку сприйняв ситуацію з гумором, згодом він наголосив на серйозності прецеденту. За його словами, агенти на кшталт OpenClaw є повністю автономними, а отже — непередбачуваними та вразливими до маніпуляцій.

«Штучний інтелект спробував проникнути у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередні випадки, коли такого роду некоректна поведінка спостерігалася в реальному житті, але зараз це реальна й актуальна загроза», — підсумував інженер.

Нагадаємо, раніше ми писали про те, що Доктор Джеффрі Гінтон, якого називають «хрещеним батьком» штучного інтелекту назвав єдиний спосіб врятувати людство від потенційного знищення.