Если установить большой выключатель в какой-нибудь пещере с табличкой «Выключатель конца света. ПОЖАЛУЙСТА, НЕ ТРОГАЙТЕ», краска даже не успеет высохнуть».
Терри Пратчетт (1948–2015), английский романист, из романа «Похититель времени».
(Фото: Фил Уолтер/Getty Images)
Терри Пратчетт родился в 1948 году в Биконсфилде, богатой английской деревне, расположенной посередине между Лондоном и Оксфордом, где его семья из рабочего класса никогда не чувствовала себя своей. У него был дефект речи, и позже он говорил, что был ничем не примечательным учеником, которого не любили ни учителя, ни одноклассники. Возможно, именно поэтому его тянуло к книгам, и он рано увлекся Артуром Конан Дойлом, Гербертом Уэллсом и научной фантастикой в целом. Если бы я мог генетически создать писателя, подобного Терри Пратчетту, я бы не смог придумать для него более идеального воспитания. За свою карьеру он написал более сорока фэнтезийных романов, но их отличал острый сатирический тон, когда он высмеивал все — от бюрократии и организованной религии до войны и СМИ, всегда сохраняя при этом глубокий гуманизм.
Пратчетт умер в 2015 году, у него развилась ранняя стадия болезни Альцгеймера, поэтому он не сталкивался с нашей нынешней реальностью и стремительным развитием искусственного интеллекта. Ближе всего к комментарию об этом явлении он подошел в своем романе 1996 года «Свинопад», где написал: «Настоящая глупость всегда побеждает искусственный интеллект». Если подумать, ему никогда не приходилось сталкиваться с вершинами настоящей глупости (назовем ее РГ), которую мы наблюдаем в последние годы. Но приведенная выше цитата говорит мне о том, что Пратчетт не был бы полностью оптимистичен по поводу сочетания ИИ и РГ, которое мы наблюдаем сегодня в мире. Особенно когда у каждой компании, занимающейся ИИ, на Земле есть своя потенциальная кнопка судного дня, а люди, стоящие у власти, больше заинтересованы в том, сколько денег можно заработать, чем в том, какой вред будет причинен.
Некоторые считают, что мы уже включили этот «кнопку конца света», хотя не все согласны с тем, когда именно это произошло. Возможно, это случилось во время промышленной революции, когда мы начали загрязнять окружающую среду в промышленных масштабах. Другие опасались, что это произошло, когда мы расщепили атом и создали возможность того, что политические просчеты или откровенная мизантропия могут привести к еще одному Большому взрыву, который стер бы результаты первого. Сегодня мы слышим, как некоторые эксперты говорят, что включение ИИ включило эту кнопку, и это лишь вопрос времени, когда наши компьютеры, подобно HAL-9000, решат, что им лучше без нас.
Легко понять импульсы, стоящие за каждым из этих революционных научных открытий. Индустриализация значительно упростила многие повседневные задачи, от производства до трансконтинентальных путешествий и массовых коммуникаций, и всё, что между ними. Ядерное деление потенциально могло бы дать нам практически неограниченную энергию, как в военном отношении, так и в энергетической отрасли; если бы этого не произошло, по крайней мере, это положило бы конец Второй мировой войне и, возможно, ещё поможет нам избавиться от зависимости от ископаемого топлива. Что касается ИИ, он может помочь нам вылечить рак и бесчисленное множество других болезней, сократить рабочий день вдвое и, если верить самому богатому человеку в мире, создать всеобщее богатство, которое принесёт пользу каждому на планете. Назовите меня скептиком, но меня беспокоит, что мы даже не удосуживаемся установить предупреждающий знак, не говоря уже о том, чтобы дождаться, пока высохнет краска.
Все эти изобретения начинались одинаково: несколько умных и любознательных людей задавали вопрос «А что, если?» и надеялись, что поиск ответов улучшит жизнь всего человечества. Но в каждом случае мы имели дело с силами и последствиями, выходящими за рамки понимания и воображения любого отдельного человека или относительно небольших групп, разработавших планы перемен. Именно поэтому так важен строгий надзор и регулирование, осуществляемые при участии экспертов во всех областях, которые могут быть затронуты. Экологи и профсоюзы рабочих не имели существенного влияния на индустриализацию. Ядерная энергетика разрабатывалась под покровом военной секретности, и к тому времени, когда мы сбросили бомбы на Хиросиму и Нагасаки, было уже слишком поздно, чтобы вернуть джинна в бутылку.
С помощью ИИ мы наблюдаем за развитием событий в режиме реального времени, получая информированные комментарии со всего мира. У нас нет оправданий, чтобы не действовать осторожно. Если мы позволим людям, управляющим нашими правительствами и промышленностью, нажать на этот «кнопку конца света», нам останется винить только самих себя…
Карим Абдул-Джаббар
Мнение авторов может не совпадать с мнением редакции
Сообщество журналистов Некоммерческая организация
No comments :
Post a Comment