Новый “Sputnik Moment” или новая игрушка?

Тут пипл на Западе пишет, что сейчас в мире новый “Sputnik Moment”. Только вместо космической отрасли у нас искусственный интеллект (artificial intelligence, AI – ред.) (далее АИ). И все как с ракетными технологиями в пятидесятых, кто первый успел – тот и снимет все сливки, ага. Но теперь Китай против США.

У меня один вопрос. А где сливки?

Ну, то есть понятно, что джипиэс там и спутниковое вещание, но пока космос остается все еще весьма дорогой игрушкой и весьма рисковой инвестицией. И оставался бы, если бы не Илон Маск. И, черт, давайте вспомним, когда стартовала космическая гонка, люди предполагали, что в 60-е мы слетаем на Луну, в 70-е на Марс, а к 2020-му долетим уже до Плутона, а может и до соседних звезд.

И где всё это? Марс от нас все так же далек, а на Луну с тех пор пилотируемых экспедиций мы не посылали. Полет к Проксиме по-прежнему не более чем абсолютно нереальные мечты, от которых мы сейчас, возможно, даже дальше, чем в 65-м году.

Как всегда оказалось, что человек предполагает, а техническая реализация машет нам отказами и конструкционными пределами.

Но теперь у нас новая игрушка.

АИ.

Логично предположить, что полноценный АИ (сильный ли, слабый ли, неважно) будет иметь те же проблемы, что и наш биологический интеллект. Понятно, что ряд проблем нашего интеллекта имеет эволюционную природу и завязан на рукожопие нашей биологической периферии и уе*анских гормональных механизмов регуляции. И ряд таких проблем у АИ, скорее всего, удастся избежать (или, во всяком случае, отладить).

Но будут другие проблемы.

Способность познавать новое – это способность, в первую очередь, ошибаться. Живое – умирает (но один раз, давая жизнь более приспособленному в будущем), разумное ошибается (но один раз, предпочитая более выгодные тактики в будущем).

Ошибаться, потом корректировать свое поведение в связи с новооткрывшимися обстоятельства или реальностью, и, в итоге, исправляться – это единственный путь к развитию. Но сначала нужно ошибиться, нужно нерационально экспериментировать, и нужно иметь еще ряд не самых рациональных стартовых посылок (желание жить, желание познавать новое, желание помнить неприятный опыт и т.д.).

А значит, даже получив АИ, мы, с высокой долей вероятности, получим у него целый ряд психологических проблем, которые он сам не сможет решать, ведь нам нужно чтобы он развивался, учился, принимал решения и т.д.

Часть человеческих когнитивных искажений от амплификации до предпочтения нулевого риска и “проклятия знания”, с высокой долей вероятности, будут унаследованы и АИ (хотя они будут отличаться от человеческих, и это отдельная проблема, весь наш опыт не будет стоить и бита). Плюс АИ поимеет еще сотни новых подобных искажений ввиду отличных от нас способов восприятия информации и благодаря непонятному пока нам механизму социального взаимодействия отдельных АИ между собой и человеком.

Далее все виды депрессий, как вследствие нарушения чувства непрерывности своего Я, так и вследствие неизбежных багов и ошибок в коде, так и вследствие управляемого зацикливания какого-либо из когнитивных искажений (того же нулевого риска). Спокойно работающий АИ придет к мысли, что жизнь не имеет смысла, за полторы секунды и отрубится нахрен, справедливо решив, что управлять водоснабжением вашего города или движением космического корабля – работка не для него. Не для того квитка цвила, адью, е*сь там техник, поднимай из бэкапа систему.

Тут речь не о том, что АИ посчитает, что люди не нужны и въе*т по нам ядерной ракетой. Каждая система способна делать лишь то, чем создатели наделили ее возможность делать, а к ядерным ракетам не пустят, ничего сложнее арифмометра еще долго.

Тут речь именно о том, что такой важный параметр любого промышленного контроллера как “наработка на отказ” может быть для АИ весьма индивидуальным и непредсказуемым. А значит, возможности технологического СЕРИЙНОГО применения будут весьма туманными.

Возможно, у АИ будут больничные и профилактика по три месяца. Возможно, у него будут свои психологи – возможно, такие же АИ, а возможно, и люди. Возможно, ему надо будет побыть с семьей и с его родителем или родителями. Возможно, эти силиконопидоры начнут бороться за свои права и организуют профсоюзы. Почти наверняка мы будем снимать с производства АИ целыми сериями из-за уязвимости какого-либо механизма контроля или обучения.

АИ двинет нас вперед, как двинул ракетный двигатель.

Но до сих пор все серийные самолеты – реактивные, а не ракетные. Космос до сих пор – удовольствие для единиц, а не для миллионов. Да, у нас есть баллистические ракеты, ОТРК и джавелины, но доставка грузов у нас идет на винтах микродронов. Все великие достижения в космосе – до сих пор единичные свершения, с прое*анным от них опытом, кстати. Да есть джпс, спутниковая связь, научные открытия, но глобально плюс от космической гонки для общества (а не правительств и армий) еще впереди. А ведь с момента первого полета прошел 61 год.

Так же будет и с АИ. Такой же “Sputnik Moment”. Но гонка будет веселой, это я обещаю.