Искусственный интеллект – троянский конь для человечества | SHIFU.IO
Переводы
Искусственный интеллект – троянский конь для человечества
Перевод 10.07.2018
Перевод интересной статьи на тему искусственного разума. А вы согласны с автором? #shifu@shifuio #shifu_translation

Источник: Greg McBeth

Технологии, меняющие то, как мы живём, всегда встречаются с подозрением – особенно информационные технологии.

Когда новые технологии вытесняют менее эффективные способы взаимодействия с миром, это обычно поднимает волну заявлений о Судном дне и о том, как технологии отрицательно влияют на человечество. Даже печатный станок был предвестником нашей культурной гибели. Однако в долгосрочной перспективе многие информационные технологии вносят позитивный вклад в современный мир.

Искусственный интеллект (далее – ИИ) находится в зачаточном состоянии, поэтому в некотором смысле недоверие, с которым он сталкивается, ничем не отличается от любой другой технологии, изменяющей правила игры. В ближайшие 25-50 лет ИИ, вероятно, будет отражать траектории печатного станка, ранних компьютеров или автомобилей: первоначальные приложения будут становиться все более мощными. Эксперты с обеих сторон будут предупреждать как о невероятном потенциале, так и о возможной катастрофе. Как только колебания сгладятся, ИИ, вероятно, будет способствовать чистой положительной прибыли для общества.

Чтобы внести ясность, это краткосрочный взгляд на узкий искусственный интеллект, который хорош в конкретных задачах. Сегодняшний ИИ все еще находится в зачаточном состоянии и, как правило, хорош только в выполнении одной вещи за раз. Но я верю, что мы увидим ценные преимущества в ближайшем будущем.

Общий ИИ – это то место, где все становится гораздо более интересным и потенциально опасным. Вот когда мы увидим машинное обучение, которое действительно на человеческом уровне или за его пределами, программу, которая сможет выполнять целый ряд когнитивных задач также или лучше, чем человек.

Несмотря на то, что ИИ в краткосрочной перспективе будет полезен обществу, он быстро перерастет свое очевидное положительное влияние. Мы столкнемся с угрозами безопасности, информационными и экзистенциальными угрозами в течение нашей жизни, поскольку ИИ будет становиться умнее, если мы не будем серьезно относиться к рискам, а также к преимуществам.

В ближайшей перспективе

На сегодняшний день практическое воздействие ИИ ощущается главным образом в области естественного языка и обработки изображений, что трудно сделать традиционным компьютерам. Узкий ИИ принес эффективность задачам, которые в противном случае замедлили бы процессы или утомили бы людей. Если все сделано правильно, это в целом положительно влияет на бизнес.

Что еще более важно, ИИ принесет два основных прогресса в ближайшем будущем, которые спасут миллионы жизней: самоуправляемые автомобили и управляемая ИИ медицина.

Ежегодно во всем мире в автокатастрофах погибает более 1 миллиона человек, подавляющее большинство из которых связано с человеческими ошибками, в том числе с интоксикацией. Беспилотные автомобили могут снизить уровень смертности от вождения в 10 раз. Мы видели, как такие компании, как Uber, изо всех сил пытаются получить готовые к дороге самоходные автомобили с земли (несмотря на миллиарды инвестиций), но даже самые пессимистичные прогнозы ставят самоходные автомобили на дорогу для частного использования в течение следующих 20 лет.

Потенциальное преимущество для медицины, управляемой ИИ, еще более невероятно. Доказано, что ИИ очень полезен для медицины, так как он играет революционную роль в фармацевтической промышленности. В настоящее время, цена того, чтобы вывести лекарство на рынок США значительно превышает миллиард долларов. Это вынуждает фармацевтические компании отдавать приоритет более доступным препаратам и, так называемым, препаратам первой необходимости, за которые потребители, скорее всего, заплатят любыми необходимыми средствами. ИИ может предсказать, какие лекарства, вероятно, будут эффективными против конкретного заболевания при гораздо более низких затратах и рисках для компаний, и это может уменьшить потребность в тестировании на людях и животных. Кроме того, анализ ДНК под руководством искусственного интеллекта может открыть эру персонализированных методов лечения.

Негодование и кризис дезинформации

По мере развития технологии будут возникать и проблемы. Первым камнем преткновения будет растущее негодование в отношении ИИ за выполнение работ, производимых в настоящее время людьми, например, вождение грузовиков или прием пациентов. Роботы, забирающие работу у людей, опять же, не новая проблема. Уровень отдачи будет определяться способностью общества перераспределять ресурсы и приспосабливаться к смене работы.

Вторая проблема – это экосистема дезинформации, в отношении которой люди не смогут вынести квалифицированного решения. По мере того, как машины узнают, как создавать лучшую и более детальную информацию, люди захотят цифровую верификацию того, что информация реальна или, по крайней мере, не ложна. Но почти точно, что это станет игрой в кошки-мышки; как только проверка становится лучше, улучшается и подделка.

Я считаю, что есть потенциал для управляемого ИИ кризиса дезинформации в нашей жизни. ИИ уже может убедительно манипулировать изображениями и видео. Лица актрис наложены на порнографические фото и видео. Мировые лидеры выступают с нелепыми или подстрекательскими заявлениями.

Фальшивые новости – это только половина дела. Физические лица будут сталкиваться с рисками для своей репутации (сфабрикованные голые фотографии, отправленные сотрудникам или поддельные порно-мести, размещенные в интернете), финансы (поддельные банковские документы, которые влияют на кредит) и правовой статус (фальшивые аудио, видео или другие доказательства преступления). Это не наихудший сценарий; это, вероятно, будет нормой.

Если люди не знают, что реально, а что фальшиво, личная ответственность может вылететь в трубу. Даже сейчас люди-стратеги используют созданные ИИ СМИ как способ уклониться от суда общественного мнения. Например, если человек пойман на записи, отпуская сексистские комментарии, он может утверждать, что запись является поддельной. Когда ИИ станет достаточно хорош, будет трудно доказать обратное. В определенный момент, наличия передовых технологий будет достаточно, чтобы поставить под сомнение практически любую информацию.

Помимо рисков для отдельных лиц и их семей, ИИ создает глобальные угрозы безопасности. Созданная ИИ разведка или СМИ могут быть использованы для создания политического шторма, разжигания беспорядков или даже начала третьей мировой войны.

Долгосрочный взгляд: супер ИИ

На сегодняшний день наибольшую угрозу представляет общий ИИ. Есть вопросы о том, возможен ли ИИ человеческого уровня (или за его пределами). Но если мы не найдем доказательств того, что человеческий интеллект управляется процессами, которые люди просто не могут задействовать, это всего лишь вопрос времени, когда будет разработан супер ИИ. Однако, несмотря на то, что говорит Рэй Курцвейл, я не верю, что сверхчеловеческий ИИ будет создан в нашей жизни.

Разумный срок для достижения ИИ человеческого уровня или лучшей производительности в большинстве задач составляет около 250 лет. Все, что исторически требовало нашего интеллекта – построение машин, решение проблем, принятие важных решений – будет обрабатываться более эффективно машинами. Возможно, будет несколько выдающихся математиков, разрабатывающих уравнения Вселенной, но остальным из нас будет мало что предложить обществу.

В этом мире большинство людей, вероятно, будут жить на базовый доход. Вполне возможно, что у нас будет свобода просто учиться и наслаждаться временем с собой, нашими друзьями и нашими семьями. Но я думаю, что более вероятно, что мы станем ленивыми, немотивированными и иррациональными людьми – оболочкой общества, как в "Храбром новом мире". Текущие долгосрочные исследования по UBI могут пролить свет на то, как это повлияет на нас.

Я согласен с покойным Стивеном Хокингом, который считал рождение ИИ “худшим событием в истории нашей цивилизации". Поскольку мы просто не знаем результата создания супер ИИ, возможности требуют особой осторожности в отношении того, что может быть одним из лучших или худших событий в истории человечества.

Еще предстоит выяснить, перевесят ли выгоды последующие за ними негативные факторы от ИИ и машинного обучения. Уже сейчас ИИ открыл дверь в эпоху, потенциально управляемую дезинформацией. От поддельных банковских выписок до мировых лидеров, объявляющих ложные войны – созданные ИИ СМИ ставят под сомнение то, что мы читаем, видим и слышим. Как только мы углубимся в возможности технологии, люди будут вытеснены машинами. Это станет огромной проблемой, и компании, которые смогут ее решить, будут стоить миллиарды. Я не вижу другого решения, кроме технического.

Самое главное, что мы можем сделать, это начать разговор о том, как иметь дело с общим ИИ сейчас. Нам нужно понять, сможем ли мы построить эффективную защиту, такую как три закона робототехники Азимова — это может контролировать любой мыслимый и немыслимый суперинтеллект.

Надеюсь, я ошибаюсь, но я настроен скептически.

Перевод 10.07.2018