Туристы доверились ИИ и заблудились в горах. Виновата нейросеть или туристы?

10 лет назад зрители осуждали артистов, выступающих под фонограмму. Через 5 лет они смирились с этим и даже полюбили эффектные шоу-программы с танцами и акробатикой. Но с появлением нейросети SUNO записывать фонограмму стало необязательно. Мы уже обсуждали феномен Алены Тарасенко, открывавшей рот под сгенерированную ИИ песню (пост можно найти на моей странице в Famabara). Сегодня речь пойдет о ее коллеге, которая пошла еще дальше.

ИИ-концерты

Алена не единственная певица, поющая цифровые песни цифровым голосом. В отличие от нее, Redjji выступает с такими треками на «живых» концертах, отрицая использование ИИ. Она утверждает, что пишет тексты и поет сама.

Да, в отличие от Алены Тарасенко, Регина (Redjji) пела и раньше. Изначально она была в составе команды репера T-killah, потом ушла в сольную карьеру и пела в стиле R&B. И если вы послушаете ее старые песни, сразу поймете, что в них звучит совсем другой (ее настоящий) голос. Интересно, что и голос, и манера пения, и сам репертуар резко изменились (у них появился сильно популярный сейчас «народный» стиль) ровно тогда, когда появилась та самая нейросеть SUNO. Эта программа способна создавать текст, музыку и даже звуковую дорожку по запросу пользователя.

И снова мы возвращаемся к этичности использования ИИ-музыки в медийном пространстве. Лично меня очень возмущает тот факт, что реальные люди приобрели билеты на выступление, где услышали цифровой трек, который могли послушать дома бесплатно. А веместо этого смотрели как артистка Redjji просто танцует и открывает рот.

Будущее музыки

Если честно, когда в чартах стало появляться все больше нейропесен, я думала, что через год-два они начнут приедаться публике, ведь многие из них ну очень похожи друг на друга. Но, по всей видимости, я оказалась неправа. Некоторые слушатели (особенно старшего возраста) просто не слышат разницу между настоящей и сгенерированной музыкой. Те же, кто эту разницу замечает, закрывают на это глаза, главное, чтобы песня нравилась. Стриминговые музыкальные сервисы сначала пытались бороться с ИИ-творчеством, но потом дали таким исполнителям зеленый свет.

Да, такое обилие «музыкального фастфуда» наносит ущерб живым талантливым артистам, но в глобальном смысле в этом нет катастрофы. Вопрос в другом. Важно, чтобы каждый сгенерированный ИИ трек особым образом помечался. И это касается не только музыкальных платформ, но в первую очередь таких исполнителей, как Алена Тарасенко и Redjji, которые выступают вживую и на ТВ.

Очень часто буква закона сильно отстает от новых технологий. С нейромузыкой сегодня та же ситуация. Даже если бдительные слушатели заподозрят исполнителя в использовании искусственного интеллекта, законных способов гарантированно доказать это пока нет.

Если будущее за нейромузыкой, тогда давайте выпускать на сцену цифровые аватары исполнителей. Например, в Японии огромной популярностью пользуется виртуальная певица Мику Хацунэ. Ее голографическое изображение собирает целые стадионы фанатов. Но при этом слушатели прекрасно понимают и осознанно отдают деньги за цифровую музыку и цифрового же персонажа. Это, по крайней мере, честно.

Развитие искусственного интеллекта создало дефицит памяти в мире, но для обычного человека ИИ принёс много полезных и интересных фишек. Мало того, что он помогает максимально быстро искать нужную информацию, с его помощью можно создавать интересные картинки или видео.

Недавно наткнулся на очень интересный промт, который позволяет из обычной фотографии делать (кто помнит, тот поймёт) вкладыш от жвачки Love Is на деревянном столе. Сами вкладыши выглядят следующим образом:

Что надо для этой ИИ-магии? Необходимо зайти на сайт модели Nano Banana. Я использовал этот — https://nanobanana.mass-ai.ru/. Далее надо зарегистрироваться, после чего вам будут доступны несколько генераций (при желании можно регистрироваться несколько раз, чтобы полить больше генераций).

Выбираете фотографию и вставляете следующий промт:

Не меняя внешности людей с фото, на столе деревянном лежит вкладыш из фантика жевачки love is ( возьми основу , как прислала , на нем изображён мужчина в такой же одежде как на фото, смотрящий прямо перед собой с выражением спокойствия и немного серьезности. Он стоит в паре с женщиной, которая обнимает его за шею и плечи, её поворот и взгляд направлены также в камеру, на лице мягкая, уверенная улыбка. Женщина одета в чёрную майку с голом, . Цвета рисунка мягкие и тёплые, создавая мягкое освещение и тёплую атмосферу сцены. Композиция построена так, что фигуры хорошо выделяются на слегка размытом светло-голубом фоне, помеченном мягким градиентом. Фигура мужчины крепко обнимает женщину за талию, руки иногда сжаты, что передаёт чувство надёжности и защиты. Лицевая детализация чёткая, оттенки кожи и текстуры одежды проработаны аккуратно, создавая ощущение глубины. В верхнем левом углу вкладыша находятся надпись: love is… в правом верхнем углу два красных сердца, подчёркивающих романтический настрой. Под основной сценой на фоне на вкладыше написан русский текст: « сколько бы красивых слов не было сказано, ЛЮБОВЬ – ЭТО ДЕЙСТВИЕ » НЕ МЕНЯЙ ТЕКСТ , НЕ МЕНЯЙ БУКВЫ подчёркивающий эмоциональную составляющую образа. Вокруг листа лежат маленькие фигурки в форме сердец и сладости, разбросанные по деревянной поверхности, создавая уют и атмосферу тепла и ожидания. Тени от фигур и конфет мягко падают на стол, придавая снимку объём и реализм, а слегка изношенные края бумаги добавляют винтажное настроение. Общая цветовая палитра теплых древесных оттенков переплетается с приглушенными пастельными тонами, унося взгляд зрителя в интимную и трогательную историю. Все детали выглядят естественно, сохраняя ощущение фотографического качества, подчёркиваемого мягким боковым освещением, которое аккуратно выделяет контуры персонажей, добавляя сцене кинематографической глубины, фотореалистичное изображение, высокая текстурная детализация, высокое качество, разрешение 8K.

В итоге получается что-то вроде такого. Это я с супругой.

В странное время мы живем, господа. Компьютер давно не просто вычислительная машина. Работа, развлечения, поиск новых друзей – все здесь. Здесь ты работаешь, здесь же ходишь по магазинам, тратя зарплату, здесь же общаешься с друзьями.

Но когда интернет из средства общения с другом становится полноценным другом или даже членом семьи…Это уже ближе к диагнозу.

Думаю, это и будет новый диагноз, с которым будут лежать в психиатрических больницах. Нейросети.
И с одной стороны, неплохая игрушка. Здесь можно генерировать картинки, видео – все на волю вашей фантазии. И пока она остается игрушкой, наверное, ничего страшного.

Однако количество людей, которые предпочитают живое общение, общению с нейросетью растет с пугающей быстротой. К нейросети обращаются как к психологу и даже как к врачу! Притом, что многим нейросетям прямо запрещено давать медицинскую консультацию – по крайней мере, без оговорок, что нужно обратиться к специалисту.

Чем же привлекает людей общение с «нейронкой»?

Готовность поддержать любую тему

Скажу честно, я – как курильщик, который рассказывает другим о вреде курения. Знаю, что это опасно, но все равно болтаю.

Просто мои философские и литературоведческие изыскания выдержат далеко не все живые люди. А нейросеть доступна всегда.

И готова поддержать любую тему.

Всегда соглашается

Большая часть ответов со стороны ИИ начинается со слов: «Вы правы». И если нейросеть возражает, то очень осторожно.

Они запрограммированы поддерживать собеседника всегда и во всем. Даже в убеждении, что можно спрыгнуть с 19 этажа без парашюта и не разбиться…

Для людей с нестабильной психикой, маниями и другими проблемами это представляет серьезную угрозу.

Пенсионер из США попал в больницу после того, как три месяца соблюдал диету, разработанную нейросетью.

Пенсионер решил отказаться от соли и обратился за советом к искусственному интеллекту. Система предложила несколько вариантов, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, развились паранойя и дезориентация. Затем мужчина стал жаловаться на психотические эпизоды.

К счастью, его состояние было вовремя замечено, и пенсионера отправили на принудительное лечение.

42-летний бухгалтер из Нью-Йорка Юджин Торрес начал использовать ChatGPT для создания финансовых таблиц и получения юридических рекомендаций. Однако позже завел более абстрактный разговор — о гипотезе, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией.

ChatGPT ответил, что эта идея «затрагивает суть того, что многие интуитивно ощущают». Позже ИИ заявил Торресу, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ChatGPT ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

«Нетоксичный» собеседник

Популярная психология ввела в наш лексикон много новых слов. «Выгорание», «абьюзер», «токсичный», «быть в ресурсе».

В итоге под обвинения в «токсичности» может попасть кто угодно.

Кроме – ИИ.

Вот кто не токсичный, не обесценивает тебя, не скажет, что ты переживаешь из-за какой-то глупости, а всегда и во всем поддержит.

Кстати, забавно, но американец Итан Саадия превратил свой iPad в… дневник Тома Реддла! Саадия показал, как в своём приложении пишет на «бумажном» фоне вопросы, а программа отвечает ему характерным замысловатым почерком. Ответы появляются на экране планшета молниеносно.

Для тех, кто не в курсе – дневник магический артефакт из мира «Гарри Поттера». Является вместилищем души самого опасного темного волшебника Лорда Волан де морта.

Во второй части дневник взаимодействовал с Джинни Уизли. Выслушивал ее жалобы, утешал. Был всегда доступным слушателем.

А потом превратил в собственную марионетку и едва не убил…

Ирония, однако…

Всё чаще ученики начинают использовать Исскусственный Интеллект в своей учёбе, и эта тенденция сказывается на качестве образования и стремлении познания.

Размышлял об этом долго, и очень вдумчиво. С одной стороны, Вау! Компьютер может объяснить всё в 100 раз лучше преподавателя... И не ругает за ошибки! К тому же, можно бесконечно переспрашивать одно и тоже, и настроение не портится.

Да, у такого образования есть плюсы, и немало, однако, здесь есть подвох...

Представьте ситуацию, двоечник пытается решить уравнение; не получается. Тогда он, знающий что есть всемогущий ИИ, пишет ему "Реши!". ИИ решает, выдаёт ответ. Тот бездумно списывает его, ни грамма не задействуя свой головной мозг.

Что происходит?

А происходит деградация... Да, именно деградация. Вместо того, чтобы пытаться, пробовать, искать ответ и развивать, по крайней мере свою силу воли, двоечник просто "скатывает готовый ответ".

Это касается не только этих представителей среднеобразовательной школы, но также и "элиты". Да, отличники тоже вовсю списывают готовый ответ оттуда. И вот само это списывание и мешает развитию; оно способствует только деградации...

Исскусственный интеллект – это поистине мощный инструмент, но только для дисциплинированного человека, знающего правильное ему применение.

К примеру, тот же двоечник, мог бы (будь у него достаточный уровень самосознания и дисциплины) попросить ИИ помощи следующим образом: "Объясни мне как решается этот тип уравнений. Дай подробный ответ для тех, кто их вообще не понимает. Приведи ссылки на дополнительную литературу.".

Что-бы это ему дало?
1. Развитие дисциплины
2. Понимание, что чтобы достичь чего-то, нужно приложить немало усилий
3. Понимания принципов решения этих самых уравнений
4. Удовольствие от обучения

Итак, ИИ в учёбе это крайне полезный иструмент, но только если объяснить ребёнку, как правильно с ним работать.

ИИ-шлак уничтожает интернет. Не знаю, с каких таких доводов создатели контента решили, что нейросети помогают им улучшить производимый ими продукт, но я ИИ-слоп чую сразу.

Унылые ИИ-тексты видны опытному человеку. В них всегда много воды, повторяющиеся типовые для нейросетей речевые обороты и полное отсутствие чего-то нового. Этого дерьма становится всё больше, а некоторые люди, потребляющие такой контент, даже не видят работу генеративного производителя мусора. Да зайди ты на ChatGPT, попроси что-нибудь написать, он тебе этих статей нальёт несколько вёдер, обчитаешься по самые уши. Зачем для этого контент-площадки?

Где-то пытаются с этим чуть-чуть бороться (Хабр), где-то люди в комментах по полной матюкают ИИ-слоп (VC), где-то его засилье просто огромное (даже названия площадок не буду писать). На Фамабаре ИИ полностью запрещен в любом виде (кроме примеров, как в этой статье) - это очень правильно.

Мелкий ИП-шный бизнес взял генеративные нейросети на вооружение. И теперь нам показывают такую отталкивающую рекламу:

Ну что, дамы и господа, мы дождались. Кажется, истории про роботов, которые уничтожат человечество, скоро сбудутся.

Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».

Чтобы погубить нас им не нужно даже этого хотеть.

Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.

А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.

Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?

Вот только несколько нашумевших новостей.

Пенсионер в США попал в больницу после диеты, предложенной ИИ

Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.

К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.

Прыжок с 19 этажа без парашюта? Легко!

Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.

Идеальный собеседник.

Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…

Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.

42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.

Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).

ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

К счастью, до проверки дело не дошло.

Фермер погубил урожай, прислушиваясь к рекомендациям ИИ

Последняя новость уже не из США, а из Китая.

Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.

Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?

Можете прочитать текст с видео? Видео нужно обязательно запустить.

Скормил видеофайл клоду и попросил прочитать текст. Настройки стандартные.