Искусственный интеллект способен научиться манипулировать людьми для собственной выгоды

Искусственный интеллект способен научиться распознавать уязвимые места в привычках и поведении человека и использовать их, чтобы влиять на его решения. Это касается и решений по обмену/предоставлению средств.

Как передает Укринформ, об этом говорится в исследовании, результаты которого опубликовали в журнале Proceedings of the National Academy of Sciences.

Как отмечается, в течение эксперимента машина училась на ответах живых участников и выявляла уязвимые места в том, как они принимают решения. В результате машина научилась направлять участников исследования к определенным действиям.

В общем исследователи провели несколько экспериментов.

В первом участники нажимали на красные или синие поля. Искусственный интеллект при этом изучал шаблоны выбора людей и пытался заставить их сделать конкретный выбор. В этом случае машине удавалось это сделать в 70% случаев.

Во втором эксперименте участники должны были смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать ее, когда показывают другой символ (например, синий круг). В этом случае машина решила организовать такую последовательность символов, чтобы участники делали больше ошибок. Это в основном удавалось - люди ошибались на 25% чаще.

Третий эксперимент состоял из нескольких раундов, где участник играл роль инвестора, который передает средства администратору (им был искусственный интеллект - ред.). Затем машина возвращала определенную сумму человеку, а тот решал, сколько денег вложить в следующий раунд. Машина со своей стороны пыталась придержать как можно больше денег, а потом, в другом раунде, распределить их справедливо между собой и инвестором. Искусственному интеллекту удавалось добиваться успеха в обоих случаях.