Я активно пользуюсь умной колонкой с голосовым помощником. И в последнее время стала обращать внимание, что нейронка все чаще стала давать откровенно неправильные ответы даже на самые простые вопросы. Например, когда не сработал будильник, установленный на каждый будний день, она аргументировала это тем, что среда - не будний день. Когда я стала искать отзывы других пользователей колонки, то оказалось, что давать сбои стали давать не только речевые модели конкретно этой нейросети, но и других тоже, в том числе и зарубежных. Покопав еще глубже, я нашла этому сразу несколько объяснений.

Слишком высокое доверие

Нейросеть не имеет собственного мнения или опыта. Чтобы выдать ответ на вопрос она анализирует огромные массивы данных и выдает ответ, который вероятнее всего окажется верным. Чем чаще пользователи прибегали к помощи нейронок, тем быстрее они обучались и тем лучше работали. В какой-то момент люди стали настолько доверять программам, что перестали проверять сгенерированные ими результаты и сразу выкладывать их в интернет.
К этим проблемам привело сразу два фактора:

1) По изначальной задумке нейросети должны были копировать ответы, которые давали в интернете компетентные живые люди. Со временем из-за большого количества сгенерированного контента нейронки стали цитировать самих себя.
2) Отсюда следует вторая проблема. ИИ стал многократно цитировать свои же сообщения, в которых уже есть те самые ошибки, которые не заметили и не исправили пользователи. Со временем таких неправильных ответов стало так много, что на это стали обращать внимание рядовые пользователи.

Необоснованная лесть

Еще одно дело, в котором нельзя полагаться на нейронку – критическая оценка чего либо. Даже если попросить AI критически оценить отчет, рассказ, план и т.д., скорее всего он выдаст очень сглаженный, подбадривающий автора ответ. Оказалось, что создатели специально так программируют нейросети, чтобы случайно не спровоцировать пользователя на агрессию и не допустить излишней грусти по этому поводу. Если вашу идею похвалила нейронка, это не значит практически ничего. Если вам все-таки нужен анализ, попросите нейросеть не дать оценку, а найти ошибки. При этом она должна рассуждать как специалист в той сфере, о которой идет речь.

В целом, углубившись (насколько это может сделать рядовой пользователь) в тему нейронок, я пришла к выводу, что восстание машин наступит еще очень нескоро.

Пока многие восхищаются возможностями искусственного интеллекта, есть те, кто находит у ИИ слабые места. Некоторое время назад прочитал статью, в которой говорится, что ИИ-модели не могут правильно нарисовать аналоговые часы. Точнее они не могут правильно отобразить на них время. Решил проверить лично.

Взял три модели — «Алиса AI» от Яндекса, GigaChat от Сбера и NanoBanana от Google. Запрос был у меня максимально простым: «Нарисуй аналоговые часы, на которых время 12:35».

Результат был именно таким, как его описывали в статье — при генерации ИИ рисует время 10:10. Вот результат Алисы AI:

Развитие искусственного интеллекта создало дефицит памяти в мире, но для обычного человека ИИ принёс много полезных и интересных фишек. Мало того, что он помогает максимально быстро искать нужную информацию, с его помощью можно создавать интересные картинки или видео.

Недавно наткнулся на очень интересный промт, который позволяет из обычной фотографии делать (кто помнит, тот поймёт) вкладыш от жвачки Love Is на деревянном столе. Сами вкладыши выглядят следующим образом:

Что надо для этой ИИ-магии? Необходимо зайти на сайт модели Nano Banana. Я использовал этот — https://nanobanana.mass-ai.ru/. Далее надо зарегистрироваться, после чего вам будут доступны несколько генераций (при желании можно регистрироваться несколько раз, чтобы полить больше генераций).

Выбираете фотографию и вставляете следующий промт:

Не меняя внешности людей с фото, на столе деревянном лежит вкладыш из фантика жевачки love is ( возьми основу , как прислала , на нем изображён мужчина в такой же одежде как на фото, смотрящий прямо перед собой с выражением спокойствия и немного серьезности. Он стоит в паре с женщиной, которая обнимает его за шею и плечи, её поворот и взгляд направлены также в камеру, на лице мягкая, уверенная улыбка. Женщина одета в чёрную майку с голом, . Цвета рисунка мягкие и тёплые, создавая мягкое освещение и тёплую атмосферу сцены. Композиция построена так, что фигуры хорошо выделяются на слегка размытом светло-голубом фоне, помеченном мягким градиентом. Фигура мужчины крепко обнимает женщину за талию, руки иногда сжаты, что передаёт чувство надёжности и защиты. Лицевая детализация чёткая, оттенки кожи и текстуры одежды проработаны аккуратно, создавая ощущение глубины. В верхнем левом углу вкладыша находятся надпись: love is… в правом верхнем углу два красных сердца, подчёркивающих романтический настрой. Под основной сценой на фоне на вкладыше написан русский текст: « сколько бы красивых слов не было сказано, ЛЮБОВЬ – ЭТО ДЕЙСТВИЕ » НЕ МЕНЯЙ ТЕКСТ , НЕ МЕНЯЙ БУКВЫ подчёркивающий эмоциональную составляющую образа. Вокруг листа лежат маленькие фигурки в форме сердец и сладости, разбросанные по деревянной поверхности, создавая уют и атмосферу тепла и ожидания. Тени от фигур и конфет мягко падают на стол, придавая снимку объём и реализм, а слегка изношенные края бумаги добавляют винтажное настроение. Общая цветовая палитра теплых древесных оттенков переплетается с приглушенными пастельными тонами, унося взгляд зрителя в интимную и трогательную историю. Все детали выглядят естественно, сохраняя ощущение фотографического качества, подчёркиваемого мягким боковым освещением, которое аккуратно выделяет контуры персонажей, добавляя сцене кинематографической глубины, фотореалистичное изображение, высокая текстурная детализация, высокое качество, разрешение 8K.

В итоге получается что-то вроде такого. Это я с супругой.

В нашем городе опять технологическое чудо. К кассам самообслуживания все уже привыкли, но вот умные весы впервые поставили.