Посты с тегом: опасность

Странно наблюдать, когда человек, всю жизнь олицетворявший технический прогресс, вдруг начинает говорить языком тревоги. Именно это произошло с создателем Microsoft в недавнем интервью - он прямо заявил, что скорость развития ИИ пугает его самого, и решать возникающие риски нужно уже сейчас, а не откладывать на потом.

По его словам, узкий круг людей, действительно понимающих реальную мощь современных нейросетей, испытывает настоящую тревогу. Вслух об этом почти никто не говорит - слишком много денег стоит на кону, чтобы портить репутацию отрасли пугающими прогнозами.

Толчком к откровенности стало то, насколько сильно последние разработки в сфере ИИ обогнали его собственные прогнозы. Добавила беспокойства и позиция индустрии, которая, по сути, проигнорировала случаи потери контроля над моделями и возможность использования технологий для создания опасных биологических веществ. По его оценке, компании сейчас просто мчатся вперед, надеясь на удачу.

За свою карьеру бизнесмен переживал сильное потрясение от технологий всего трижды - при знакомстве с графическим интерфейсом, при первом взгляде на ранний чат-бот и совсем недавно, когда изучил один из инструментов для написания кода на основе ИИ. Программирование он всегда считал своей сильной стороной, поэтому осознание того, что машина обошла его в этом деле, стало для него личным шоком.

По его мнению, нынешняя технологическая волна принципиально отличается от всех предыдущих - раньше новые технологии создавали больше рабочих мест, чем забирали, а сейчас массовые сокращения выглядят почти неизбежными. При этом крупные корпорации, включая его собственную, продолжают помогать бизнесу внедрять решения, заменяющие людей, просто следуя рыночной логике, которая не всегда идет на пользу обществу.

Среди мер защиты он предложил своеобразный налог на замену людей машинами и запрет на автоматизацию в профессиях, где переобучение сотрудников практически невозможно - например, в уходе за больными. Отдельно он затронул тему биологической безопасности, назвав нынешние добровольные меры регулирования недостаточными.

Честно говоря, меня во всей этой истории цепляет не столько сам прогноз, сколько то, кто его озвучивает. Одно дело - когда об опасностях ИИ предупреждают скептики или журналисты, и совсем другое - когда тревогу бьет человек, десятилетиями строивший технологическую индустрию и заработавший на ней состояние. Если уж он признает, что не понимает, куда все движется дальше, - это говорит само за себя. При этом верится с трудом, что бизнес добровольно притормозит внедрение ИИ ради интересов общества - слишком уж выгодно заменять людей машинами прямо сейчас.

Ну что, дамы и господа, мы дождались. Кажется, истории про роботов, которые уничтожат человечество, скоро сбудутся.

Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».

Чтобы погубить нас им не нужно даже этого хотеть.

Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.

А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.

Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?

Вот только несколько нашумевших новостей.

Пенсионер в США попал в больницу после диеты, предложенной ИИ

Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.

К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.

Прыжок с 19 этажа без парашюта? Легко!

Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.

Идеальный собеседник.

Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…

Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.

42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.

Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).

ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

К счастью, до проверки дело не дошло.

Фермер погубил урожай, прислушиваясь к рекомендациям ИИ

Последняя новость уже не из США, а из Китая.

Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.

Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?