Ну что, дамы и господа, мы дождались. Кажется, истории про роботов, которые уничтожат человечество, скоро сбудутся.
Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».
Чтобы погубить нас им не нужно даже этого хотеть.
Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.
А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.
Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?
Вот только несколько нашумевших новостей.
Пенсионер в США попал в больницу после диеты, предложенной ИИ
Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.
К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.
Прыжок с 19 этажа без парашюта? Легко!
Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.
Идеальный собеседник.
Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…
Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.
42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.
Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).
ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».
В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».
К счастью, до проверки дело не дошло.
Фермер погубил урожай, прислушиваясь к рекомендациям ИИ
Последняя новость уже не из США, а из Китая.
Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.
Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?
Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».
Чтобы погубить нас им не нужно даже этого хотеть.
Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.
А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.
Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?
Вот только несколько нашумевших новостей.
Пенсионер в США попал в больницу после диеты, предложенной ИИ
Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.
К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.
Прыжок с 19 этажа без парашюта? Легко!
Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.
Идеальный собеседник.
Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…
Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.
42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.
Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).
ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».
В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».
К счастью, до проверки дело не дошло.
Фермер погубил урожай, прислушиваясь к рекомендациям ИИ
Последняя новость уже не из США, а из Китая.
Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.
Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?













