автордың кітабынан сөз тіркестері Генезис: Искусственный интеллект, надежда и душа человечества
Киссинджер и без компьютера олицетворял собой тот массив данных и задач, с которым предстояло справляться разведывательному сообществу
1 Ұнайды1 түсініктеме
Истории известны примеры подобного научного обмана. В 1942 году советский физик Георгий Флеров абсолютно верно предположил, что США создают атомную бомбу, когда заметил, что американские и британские ученые перестали публиковать работы по расщеплению атома90. Однако в наши дни такая гонка была бы куда менее непредсказуемой — слишком сложно оценивать ход развития в столь абстрактной сфере, как ИИ; слишком размыты все показатели. Многие ошибочно считают, что «преимущество» определяется исключительно размером моделей ИИ. Но крупная модель не всегда эффективнее в конкретных задачах и может проиграть массовому применению более простых систем. Компактные и узкоспециализированные системы ИИ могут действовать подобно рою дронов против авианосца: не уничтожая цель, но выводя из строя ключевые функции.
1 Ұнайды
Многие руководители отрасли прогнозируют: в перспективе разработки ИИ будут сосредоточены в защищенных подземных комплексах с автономными системами энергоснабжения на ядерных реакторах88. Уже сегодня дата-центры строятся на дне океана89. Следующим шагом может стать их размещение на околоземной орбите. Корпорации и государства будут все чаще «уходить в тень», прекращая публикации исследований в области ИИ: формально — чтобы не помогать злоумышленникам; фактически — чтобы скрыть реальные темпы развития. Некоторые пойдут еще дальше: будут намеренно публиковать ложные исследования, используя ИИ для фабрикования правдоподобных подделок и маскируя таким образом подлинную картину достижений.
1 Ұнайды
Обладая уникальной способностью манипулировать уязвимыми сторонами массового сознания, ИИ может полностью подчинить медиасистему враждебного государства. Ему под силу сгенерировать такой объем тревожной синтетической дезинформации, что это поднимет волну протестов против развития национальных программ ИИ в этой стране. Другая тактика — точечные психологические удары по конкретным ученым. Например, через персонализированные сообщения можно спровоцировать у ведущего специалиста по ИИ тяжелое эмоциональное потрясение, способное полностью вывести его из равновесия, тем самым надолго лишив его возможности вести научную работу.
1 Ұнайды
В будущем люди, вероятно, часто станут критически относиться к решениям, предложенным алгоритмами ИИ, — не потому, что те неразумны, а потому, что их логика окажется за пределами непосредственного человеческого понимания. Особую тревогу вызывает перспектива не только потерять возможность вмешиваться в процесс принятия решений, но и лишиться способности осмысливать его (т. е. возможности интерпретации этого процесса) — даже после свершившегося факта.
1 Ұнайды
ИИ смогут анализировать интересы миллиардов людей, включая будущие поколения, с беспрецедентной точностью прогнозируя последствия — от сиюминутных эффектов до влияния прорывных технологий в самой долгосрочной перспективе.
1 Ұнайды
Ситуацию осложняет когнитивная дезориентация общества и его прогрессирующий отрыв от реальности
1 Ұнайды
Личный опыт преодоления трудностей формирует чувство самоуважения
1 Ұнайды
Таким образом, предстоит выбрать между:
1) сохранением традиционной роли человеческой деятельности (пусть и с признанием лидерства ИИ в новых сферах познания);
2) сознательным отказом от ограничений биологического интеллекта в пользу трансформированного партнерства с ИИ на интеллектуальном поле.
Оставим ли мы за собой возможность самим определять собственные цели, относясь к ИИ как к инструменту для их достижения, или в какой-то степени позволим ИИ заниматься целеполаганием за нас? Нам необходимо как можно скорее выработать ясное, соответствующее нашему времени и устойчивое определение человеческого достоинства — такое, которое могло бы стать философским ориентиром для принимаемых решений в ближайшие десятилетия