Подразделение Google выращивает опасную технологию, способную дестабилизировать ситуацию в мире. Это может произойти уже в середине нынешнего десятилетия, но люди могут не заметить этого, считает Илон Маск.
Основатель Tesla и SpaceX с 2016-го предупреждает об опасности искусственного разума. Больше всего его беспокоят разработки DeepMind, одной из самых сильных инженерных команд. Оценивая их алгоритмы, Маск утверждает: в ближайшие годы ИИ опередит человека по интеллекту. Это не означает, что «все отправятся в ад», но ситуация в мире будет странной и нестабильной.
Больше всего насчет нейросетей ошибаются умные люди: они не могут представить, что компьютер окажется разумнее. В этом недостаток их логики, считает Маск, призывая государства к жесткому регулированию ИИ-технологии.
Фильм «Военные игры» времен минувшей холодной войны наглядно аргументирует позицию Маска. В нем подросток-хакер подключается к суперкомпьютеру правительства США под управлением ИИ. Последний регулярно обучается на симуляторах и в итоге убеждает власти о неизбежности ядерной атаки со стороны СССР.
Google приобрела DeepMind в 2014-м за $500 млн. Маск входил в число ранних инвесторов стартапа. К такому шагу его подтолкнул интерес к скорости развития искусственного интеллекта. Теперь он констатирует: алгоритмы улучшаются значительно быстрее, чем думают люди.
Источник:
