ИИ шлак проник в школьное образование - пример из США

Всё чаще ученики начинают использовать Исскусственный Интеллект в своей учёбе, и эта тенденция сказывается на качестве образования и стремлении познания.

Размышлял об этом долго, и очень вдумчиво. С одной стороны, Вау! Компьютер может объяснить всё в 100 раз лучше преподавателя... И не ругает за ошибки! К тому же, можно бесконечно переспрашивать одно и тоже, и настроение не портится.

Да, у такого образования есть плюсы, и немало, однако, здесь есть подвох...

Представьте ситуацию, двоечник пытается решить уравнение; не получается. Тогда он, знающий что есть всемогущий ИИ, пишет ему "Реши!". ИИ решает, выдаёт ответ. Тот бездумно списывает его, ни грамма не задействуя свой головной мозг.

Что происходит?

А происходит деградация... Да, именно деградация. Вместо того, чтобы пытаться, пробовать, искать ответ и развивать, по крайней мере свою силу воли, двоечник просто "скатывает готовый ответ".

Это касается не только этих представителей среднеобразовательной школы, но также и "элиты". Да, отличники тоже вовсю списывают готовый ответ оттуда. И вот само это списывание и мешает развитию; оно способствует только деградации...

Исскусственный интеллект – это поистине мощный инструмент, но только для дисциплинированного человека, знающего правильное ему применение.

К примеру, тот же двоечник, мог бы (будь у него достаточный уровень самосознания и дисциплины) попросить ИИ помощи следующим образом: "Объясни мне как решается этот тип уравнений. Дай подробный ответ для тех, кто их вообще не понимает. Приведи ссылки на дополнительную литературу.".

Что-бы это ему дало?
1. Развитие дисциплины
2. Понимание, что чтобы достичь чего-то, нужно приложить немало усилий
3. Понимания принципов решения этих самых уравнений
4. Удовольствие от обучения

Итак, ИИ в учёбе это крайне полезный иструмент, но только если объяснить ребёнку, как правильно с ним работать.

Приветствую всех! Спасибо за комментарии к предыдущему посту, и сегодня я постараюсь ответить на вопрос от пользователя @parahod который звучал так: "Интересно, не вредит ли образованию, что в кабинете сидят дети разных классов. Как это вообще возможно с точки зрения обучения? Программа одинаковая?". Тема на самом деле очень важная — она помогает понять, как устроена школьная жизнь в США и какие цели американское образование перед собой ставит.

Давайте разберемся. В США нет понятия "класс" в нашем смысле — как группы детей, которые все 11 лет ходят друг с другом на одни и те же уроки по единому плану. Там действует кредитная (выборочная) система.

Школы деляться на начальную, среднюю и старшу, но есть отличия от российской системы
Elementary school — c 1-го по 4-й класс
Middle school — c 5-го по 8-й класс
High school — с 9-го по 12-й класс
И важно понимать: в большинстве случаев это разные школы. То есть после начальной школы ученики не просто переходят на следующий этаж, а меняют и здание, и саму школу. Бывает, что одна школа (как бренд) владеет и средней, и старшей ступенью, но это встречается нечасто — обычно в маленьких городах с государственными школами.

Стоит отметить и тот факт, что привычных нам выражений "восьмиклассник" или "десятиклассник" там нет. Всего четыре названия:
Freshman — первогодка или первокурсник (1-й, 5-й, 9-й классы)
Sophomore — второгодка или второкурсник (2-й, 6-й, 10-й классы)
Junior — третьегодка или третьекурсник (3-й, 7-й, 11-й классы)
Senior — четверогодка, четверокурсник или выпускник (4-й, 8-й, 12-й классы)
Если ты freshman в начальной школе — все знают, что ты первоклассник. А если нужно объяснить вне стен школы, говорят так: "I was a sophomore in Bella Vista High School" ("Я был второгодкой в старшей школе Белла Виста"). Та же система работает и в университете.

По сути, американцы со школы привыкают к университетской системе. А обязательных требований к ученикам, в плане учебы, не так много. За четыре года обучения старшей школы ученик обязан пройти: 4 курса английского, 3 курса математики, 2 курса естественных наук, и главное набрать нужное количество бвллов за четыре года. Необходимое число баллов 130 на сколько я помню, а обязательные курсы дадут максимум 54 балла. Остальные предметы ученик выбирает сам. И выбор огромный! Самые необычные курсы что я брал это: пилотирование дроном (целый курс с сертификатом пилота, по окончанию можно легально управлять дронами), история искусства (честно, было скучно, пользы ноль), урок кулинарии (по сути — дежурство в столовой). Есть и более серьёзные предметы, например: всеобщая история, история Америки, история коренных народов, история Европы, и это всё разные курсы. Можно постепенно освоить их все за четыре года, а можно взять только то, что реально интересно. С естественными науками так же: для выпуска хватит двух курсов (обычно Science и биология). Но если тема зацепила, то в следующих семестрах берёшь химию, анатомию, геологию, физику. Углубляешься в то, что тебе интересно.

В отличие от нашей системы, где учишь всё подряд, и каждый год повышаешь планку, там ученик сам решает, что ему нужно. Как правило у каждого предмета один либо два уровня сложности. Это значит, что ты можешь изучать предмет один семестр и получить базовые знания, а можешь изучать два семестра для более обширных знаний и большего количества баллов, и потом взять третий курс чтобы углубиться имено в ту сферу науки что тебе интересна. Не скажу, что один подход лучше, а другой хуже. Везде есть плюсы и минусы.

Вернемся к вопросу, почему сидят дети разных возрастов? Из написанного выше это уже становится очевидно: у всех разные интересы и разный уровень. Кто-то пробует всё по чуть-чуть на базовом уровне, кто-то копает глубоко в одну сторону. Кто-то не сдал курс в прошлом году и теперь навёрстывает.

Ситуации, где freshmen сидят с seniors, случаются не так часто. Обычно это происходит, когда старшеклассники забыли вовремя сдать обязательный курс и теперь добирают баллы. Но никто никому не мешает. В Америке все сфокусированы на личном прогрессе.

И важный момент: там не принято списывать. Даже если кто-то совсем не готовился, то он просто сделает как сможет. Почему? Менталитет другой. Они не будут давать тебе списать не потому, что вредные, а потому что искренне не понимают: зачем? Тебе-то это зачем? Ведь к тому же списывать очень опасно. Если поймают три раза за всю старшую школу, то отчислят. И списыванием считается даже копирование текста с сайта для доклада, без указания, что эта информация была не написана тобой. Умение думать самому, цениться больше чем зазубривание.

Мне больше нравилось пробовать разные курсы, чем углубляться в одно направление, просто так было проще. Но с математикой вышло интересно: вместо трёх обязательных курсов я прошёл пять. Да, я был на двух курсах одновременно, потому что один из них был Calculus, это уже университетский уровень. И в школе я получил университетские баллы, которые потом облегчили первый год в вузе. С английским попробовал сделать так же, но не справился.

Для поступления в вуз есть два главных экзамена: SAT и ACT. Оба проверяют английский, математику, логику и базовые знания по естественным наукам. Сдавать можно сколько угодно раз, и не обязательно в выпускном классе. Я сдавал SAT. Расскажу про него:
Состоит из160 вопросов
По длительности около 4 часов
Очень быстрый темп, на вопрос буквально пара минут
вопросы максимально разнообразные: например, прочитать пять текстов и выполнить задания по ним (Секрет в том, что тексты не нужно читать от корки до корки — надо бегло пробегаться глазами и находить ответы. Это сложно даже для носителей языка. Математика по уровню не уступает ЕГЭ.
Максимум за SAT — 1600 баллов. Я сдавал два раза, лучший результат — 1115 (чуть выше среднего).

Помимо SAT и ACT, вузы смотрят на GPA — средний балл. И тут важный момент: GPA считается за все 4 года! Чтобы получить максимум 4.0 (на самом деле можно и выше, если брать университетские предметы ещё в школе), нужно все четыре года учиться только на «A» (высшая оценка в США). У меня получилось быть отличником в 11 и 12 классах, но GPA немного подпортил 9-й класс, который я учился в России. В итоге закончил школу с GPA 3.56 — это достаточно хороший результат. В итоге мне удалось получить не только спортивную, но и академическую стипендию в университете.

Как итог могу сказать, что американская школьная система устроена не так, как наша, и это нормально. Там нет жёсткой привязки к возрасту и единой программы для всех. Вместо этого гибкость, личный выбор и ответственность. Да, это создаёт ситуации, когда за одной партой оказываются девятиклассник и выпускник. Но это не баг, а фича: каждый идёт своим темпом и собирает образование под себя.

Если вы не видели мой предыдущий пост, то рекомендую ознакомиться. Буду рад видеть коментарии и вопросы. Прикрепил фото с выпускного, я с лева если кто не понял)

Ну что, дамы и господа, мы дождались. Кажется, истории про роботов, которые уничтожат человечество, скоро сбудутся.

Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».

Чтобы погубить нас им не нужно даже этого хотеть.

Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.

А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.

Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?

Вот только несколько нашумевших новостей.

Пенсионер в США попал в больницу после диеты, предложенной ИИ

Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.

К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.

Прыжок с 19 этажа без парашюта? Легко!

Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.

Идеальный собеседник.

Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…

Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.

42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.

Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).

ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

К счастью, до проверки дело не дошло.

Фермер погубил урожай, прислушиваясь к рекомендациям ИИ

Последняя новость уже не из США, а из Китая.

Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.

Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?

Едва только появились нейросети, все эти чаты гпт и прочий ИИ, сразу же пошел плач Ярославны в адрес копирайтеров, дизайнеров, программистов. Мол, скоро вы станете не нужны, вас заменит искусственный интеллект и так далее. Что там насчет программистов не знаю, все же мне кажется, что код без ошибок ИИ не напишет, он и тексты-то такие ляпает, что ой.

Насчет дизайнеров тоже сомнения. Потому что пока еще нейросетки грешат лишними конечностями, пальцами, головами и прочим. И требуется порой очень жесткий контроль со стороны человека, чтобы конечный результат был более-менее. Помню, раньше я обложки часа по два создавала, потому что нейросетка тупила так, что я готова была выкинуть комп на помойку как в том ролике.

А вот копирайтеры уже в некоторых местах пали жертвой якобы прогресса. В частности, одна из моих заказчиц известила, что ее компания массово переходит на написание текстов через ИИ. А там, на минуточку, заказчиками в основном являются медклиники, в большинстве своем - онкологические. И теперь я задаюсь вопросом: а что в головах у заказчиков, если они соглашаются на генерированные тексты?

Вообще я против и того, чтобы такие тексты писали мои братья-копирайтеры. Возможно, я старомодна, но мне кажется, что брать ответственность за статью о заболевании или медикаментах должен только тот, кто в этом реально разбирается - медик или фармацевт. Но такие специалисты конечно стоят дороже, чем нам платят за 1000 знаков. Поэтому я в основном не читаю о заболеваниях в сети. И вам крайне не рекомендую.

При этом я, любопытства ради, проверяла, как эта шайтан-машина тексты пишет. Не в области медицины, что я там пойму? А в более близких мне темах, в которых я точно разбираюсь. И там, не считая орфографических ошибок и огрехов с пунктуацией, столько ляпов - быстрее самой написать, чем это все править.

Но заказчикам и посредникам это не объяснить. Они воспринимают ИИ как инструмент существенного облегчения их труда и уменьшения затрат на контент. Сколько уже раз я получала технические задания, от которых прямо разит ИИ и правила их сама с точки зрения Яндекса и здравого смысла... А недавно мне еще стали правки присылать, которые тоже диктует нейросеть, якобы изучившая мои тексты. Якобы - потому что текст был о заборах, а среди правок претензии по поводу того, что тема бассейнов раскрыта недостаточно. Бассейнов в моем тексте не было вообще! Как, вероятно, и глаз у редактора, который эти правки прислал)

Люди часто не понимают, что на нынешней стадии развития нейросеть может только небольшую помощь оказывать, но не заменять специалиста с образованием и опытом. Ведь она даже не придерживается твердо одного мнения. Можно загрузить один и тот же текст, но в первом случае, например, попросить ИИ найти недочеты в соотношении с изначальным ТЗ. А во втором - попросить дать процент соответствия этому самому ТЗ. И при определенном характере запроса нейросетка может как "завалить" текст, так и признаться, что лучшего в жизни не встречала. Причем последовательно, ответ за ответом.

Я уж молчу про то, что поисковики в принципе не любят сгенерированные тексты и заказчики получают не просто бесполезный материал, но еще и улетают в теневой бан в лучшем случае. И все из-за мнимой экономии на живом копирайтере) Честно, удивляет это слепое доверие машине. Вот так вот и становится возможной катастрофа из "Терминатора")))

Радует, впрочем, что есть и другая категория. Есть заказчики, которые об ИИ и слышать не хотят. Их много, к счастью, так что без работы копирайтеры не останутся. А там и те, кто сейчас молится на нейросеть, подтянутся обратно. Это просто вопрос времени. Потому что ну не на том уровне искусственный интеллект, чтобы выполнять работу, во всяком случае, в отношении текстов, на уровне человека. Пусть даже с его помощью и книги пишут и, как я слышала, дипломы. Но синтетическая музыка тоже когда-то была популярна и где она теперь? А Бах и ныне тут.

Можете прочитать текст с видео? Видео нужно обязательно запустить.

Скормил видеофайл клоду и попросил прочитать текст. Настройки стандартные.

В странное время мы живем, господа. Компьютер давно не просто вычислительная машина. Работа, развлечения, поиск новых друзей – все здесь. Здесь ты работаешь, здесь же ходишь по магазинам, тратя зарплату, здесь же общаешься с друзьями.

Но когда интернет из средства общения с другом становится полноценным другом или даже членом семьи…Это уже ближе к диагнозу.

Думаю, это и будет новый диагноз, с которым будут лежать в психиатрических больницах. Нейросети.
И с одной стороны, неплохая игрушка. Здесь можно генерировать картинки, видео – все на волю вашей фантазии. И пока она остается игрушкой, наверное, ничего страшного.

Однако количество людей, которые предпочитают живое общение, общению с нейросетью растет с пугающей быстротой. К нейросети обращаются как к психологу и даже как к врачу! Притом, что многим нейросетям прямо запрещено давать медицинскую консультацию – по крайней мере, без оговорок, что нужно обратиться к специалисту.

Чем же привлекает людей общение с «нейронкой»?

Готовность поддержать любую тему

Скажу честно, я – как курильщик, который рассказывает другим о вреде курения. Знаю, что это опасно, но все равно болтаю.

Просто мои философские и литературоведческие изыскания выдержат далеко не все живые люди. А нейросеть доступна всегда.

И готова поддержать любую тему.

Всегда соглашается

Большая часть ответов со стороны ИИ начинается со слов: «Вы правы». И если нейросеть возражает, то очень осторожно.

Они запрограммированы поддерживать собеседника всегда и во всем. Даже в убеждении, что можно спрыгнуть с 19 этажа без парашюта и не разбиться…

Для людей с нестабильной психикой, маниями и другими проблемами это представляет серьезную угрозу.

Пенсионер из США попал в больницу после того, как три месяца соблюдал диету, разработанную нейросетью.

Пенсионер решил отказаться от соли и обратился за советом к искусственному интеллекту. Система предложила несколько вариантов, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, развились паранойя и дезориентация. Затем мужчина стал жаловаться на психотические эпизоды.

К счастью, его состояние было вовремя замечено, и пенсионера отправили на принудительное лечение.

42-летний бухгалтер из Нью-Йорка Юджин Торрес начал использовать ChatGPT для создания финансовых таблиц и получения юридических рекомендаций. Однако позже завел более абстрактный разговор — о гипотезе, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией.

ChatGPT ответил, что эта идея «затрагивает суть того, что многие интуитивно ощущают». Позже ИИ заявил Торресу, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ChatGPT ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

«Нетоксичный» собеседник

Популярная психология ввела в наш лексикон много новых слов. «Выгорание», «абьюзер», «токсичный», «быть в ресурсе».

В итоге под обвинения в «токсичности» может попасть кто угодно.

Кроме – ИИ.

Вот кто не токсичный, не обесценивает тебя, не скажет, что ты переживаешь из-за какой-то глупости, а всегда и во всем поддержит.

Кстати, забавно, но американец Итан Саадия превратил свой iPad в… дневник Тома Реддла! Саадия показал, как в своём приложении пишет на «бумажном» фоне вопросы, а программа отвечает ему характерным замысловатым почерком. Ответы появляются на экране планшета молниеносно.

Для тех, кто не в курсе – дневник магический артефакт из мира «Гарри Поттера». Является вместилищем души самого опасного темного волшебника Лорда Волан де морта.

Во второй части дневник взаимодействовал с Джинни Уизли. Выслушивал ее жалобы, утешал. Был всегда доступным слушателем.

А потом превратил в собственную марионетку и едва не убил…

Ирония, однако…

ИИ-шлак уничтожает интернет. Не знаю, с каких таких доводов создатели контента решили, что нейросети помогают им улучшить производимый ими продукт, но я ИИ-слоп чую сразу.

Унылые ИИ-тексты видны опытному человеку. В них всегда много воды, повторяющиеся типовые для нейросетей речевые обороты и полное отсутствие чего-то нового. Этого дерьма становится всё больше, а некоторые люди, потребляющие такой контент, даже не видят работу генеративного производителя мусора. Да зайди ты на ChatGPT, попроси что-нибудь написать, он тебе этих статей нальёт несколько вёдер, обчитаешься по самые уши. Зачем для этого контент-площадки?

Где-то пытаются с этим чуть-чуть бороться (Хабр), где-то люди в комментах по полной матюкают ИИ-слоп (VC), где-то его засилье просто огромное (даже названия площадок не буду писать). На Фамабаре ИИ полностью запрещен в любом виде (кроме примеров, как в этой статье) - это очень правильно.

Мелкий ИП-шный бизнес взял генеративные нейросети на вооружение. И теперь нам показывают такую отталкивающую рекламу: