Соучредитель Google Сергей Брин рассказал об угрозах искусственного интеллекта

Соучредитель Google Сергей Брин выразил опасения по поводу нынешнего бума в сфере искусственного интеллекта, создавшего «технологический ренессанс», в котором много потенциальных угроз. Об этом сообщает The Verge. В своем ежегодном письме учредителей компании, опубликованном в пятницу, президент Alphabet предупредил общество. «Новая весна в искусственном интеллекте - это самое значительное развитие в вычислительной технике в моей жизни», - пишет Брин. - «Каждый месяц появляются потрясающие новые приложения и методы. Но такие мощные инструменты также приносят новые вопросы и обязанности».

Письмо Брина началось с цитаты «Повести о двух городах» Чарльза Диккенса: «Это было лучшее время, это было худшее время». Сергей утверждает, что с даты основания Google в 1998 году производительность компьютера значительно возросла. В то время техника, которая теперь составляет основу современного ИИ, нейронных сетей, была просто «забытой сноской в информатике».

Революция в машинном обучении за последнее десятилетие изменилась, и Брин перечисляет некоторые из многих способов использования ИИ для работы служб Alphabet и компаний. Искусственный интеллект анализирует изображения в Google Фото; переводит более 100 языков в Google translate; управляет навигационными системами в автономных автомобилях Waymo; и даже помогает диагностировать болезнь и открывать новые планетные системы. «В этом смысле сейчас действительно технологический ренессанс. Потрясающее время, где мы можем видеть приложения практически во всех сегментах современного общества», - пишет Брин.

Однако, по его словам, ИИ также сталкивается с рядом проблем: «от сугубо научных опасений до таких краткосрочных вопросов, как проверка производительности автономных автомобилей». Брин утверждает, что Alphabet «всерьез задумалась над этими вопросами, в том числе, как ИИ повлияет на занятость; проблемы создания непредвзятых и прозрачных алгоритмов; и опасения, что эта технология будет использоваться для манипулирования людьми».

Примечательно, что Брин не упоминает одно спорное использование искусственного интеллекта, имеющее особое значение для Alphabet: военное применение. Ранее в этом году выяснилось, что Google помогает Пентагону внедрять средства машинного обучения для анализа видеозаписей беспилотных самолетов. Компания заявила, что технология предназначена только для «ненаступательных целей», но тысячи сотрудников Google потребовали от компании отказа от проекта.

На сегодняшний день компании Силиконовой долины сталкиваются с более пристальным вниманием, чем когда-либо, поскольку правительства и общественность примирились с их размерами и богатством. Так, согласно последним финансовым отчетам, доход Alphabet вырос на 26% - до 31,1 млрд долларов, а Amazon – на 43% в годовом исчислении, а продажи в первом квартале составили 51 млрд долларов.

Страх перед искусственным интеллектом, уничтожающим рабочие места и манипулирующим политикой, вероятно, будет частью любых обсуждений необходимости ограничения силы и влияния Большой Техники. Вероятно, это объясняет мрачный тон Брина. Он заканчивает письмо такими словами: «Несмотря на то, что я с оптимизмом смотрю на технологии, позволяющие решить самые большие проблем в мире, сейчас мы на пути, который нужно пройти с большой ответственностью, заботой и покорностью».