Искусственный интелект: стоит ли его бояться? Семь ошибок футурологов

Бывший директор лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при MIT Родни Брукс в своём эссе описал 7 ошибок, которые допускают все, кто пытается предсказать будущее ИИ. Ниже - главные тезисы, но как всегда, если вы интересуетесь темой, лучше читать оригинал: http://rodneybrooks.com/the-seven-deadly-sins-of-predictin…/
1. Мы переоцениваем влияние технологии в краткосрочной перспективе и недооцениваем - в долгосрочной. GPS разработали в 1978 году для точного наведения снарядов армии США. В 80-х проект едва не прикрыли, а впервые технологию использовали по назначению только через 13 лет. Сейчас без GPS сложно представить нормальную жизнь. ИИ может ожидать такой же цикл развития. Но что считать долгосрочной перспективой? Брукс уверен, что это срок больше, чем считают большинство футурологов.
2. "Любая достаточно совершенная технология неотличима от магии". Если перенести Ньютона в наши дни и показать ему айфон, скорее всего он решит, что это что-то магическое. В этом проблема с воображаемыми технологиями будущего - мы наделяем их магическими свойствами и неограниченными возможностями. Это хорошо заметно на примере общего ИИ. При всех современных достижениях науки ученые пока не могут создать общий ИИ. Не все даже уверены в том, что это возможно. Тем не менее, многие люди ожидают, что общий ИИ обязательно будет создан и будет обладать неограниченными способностями. С такими аргументами нельзя спорить, это вопрос веры.
3. Люди путают производительность и компетентность. Компьютер может распознать на фотографии людей с фрисби. Но он не сможет ответить на вопросы вроде "Можно ли есть фрисби? Нормальная ли сегодня погода для фрисби?". Он умеет только описывать картинки. Часто люди, услышав, что робот или программа научились выполнять какую-либо задачу, обобщают это и считают, что теперь робот заменит и человека, выполняющего эту задачу. Но пока компьютерные системы заточены под узкие задачи. Человеческие обобщения здесь не работают.
4. Мы часто применяем по отношению к машинам "человеческие" слова: "мышление", "опыт", "сознание", "объяснять", "воображать", "учиться", "распознавать". Но в машинном мире эти слова имеют совсем другое, очень узкое значение. Это ведет к непониманию и переоцениванию возможностей ИИ.
5. Развитие технологий рассматривают как экспоненциальный процесс. Во многих случаях реальный график таких процессов - S-кривая, в которой экспоненциальный рост сменяется устойчивым плато. К примеру, процесс уменьшения транзисторов ограничен физикой - они уже настолько маленькие, что дальше некуда уменьшать. Увеличение объемов жестких дисков ограничилось с насыщением рынка - никому не нужен iPod на терабайт, сотни-другой гигабайт достаточно. А иногда экспоненциальные процессы просто не являются такими с самого начала. Прогресс в ИИ тоже может быть ограничен физикой или экономикой, или же не быть экспоненциальным.
6. В популярных фильмах будущее часто не отличается от настоящего кардинально. Люди живут среди человекоподобных роботов, но читают газеты и звонят по проводному телефону. Технологические прогнозы тоже страдают подобной узостью мышления. Неправильно представлять мир будущего как сегодняшний мир, к которому просто добавили общий ИИ. Такое упрощенное изображение можно использовать в дискуссиях, но с реальным будущим эти картинки не имеют ничего общего.
7. Прорывные технологии внедряются не сразу. На большинстве предприятий используют проверенные временем программы, руководствуясь принципом "работает - не трогай". Железо обновляют ещё медленнее. На заводах Tesla используют программируемые логические контроллеры - машины с самым продвинутым ИИ создают с помощью технологий 50-летней давности. Футурологи говорят о мире так, как будто он уже цифровой, стоит только создать новые эффективные ИИ-программы, и все производственные цепочки в момент перейдут на новый уровень. Это не так. Любые инновации в робототехнике и ИИ будут внедряться постепенно.
Автор: Андрей Бродецкий, блогер