Разъяренные опасения, что генеративный ИИ ChatGPT побуждает студентов активно жульничать при написании эссе, привлекает внимание к этике ИИ и законам об ИИ

Письменное эссе, написанное современными студентами, никогда не исчезнет?

Наполненная тоской студенческая курсовая работа лихорадочно летит в окно?

Это шумиха, которая недавно переросла во всеобщий шум. Видите ли, появление приложения с искусственным интеллектом, известного как ChatGPT, привлекло много внимания и в равной степени вызвало много гнева. Подробное описание ChatGPT см. ссылка здесь. Мой постоянный и обширный обзор этики ИИ и закона об ИИ см. ссылка здесь и ссылка здесь, Просто назвать несколько.

Суть крика и ревения в том, что этот тип ИИ, обычно называемый генеративный ИИ, станет похоронным звоном для того, чтобы просить студентов выполнять задания в стиле эссе.

Почему так?

Потому что новейший генеративный ИИ способен создавать, казалось бы, беглые эссе, просто вводя простую подсказку. Если вы введете такую ​​строку, как «Расскажите мне об Аврааме Линкольне», ИИ сгенерирует эссе о жизни и временах Линкольна, которое часто бывает достаточно хорошим, чтобы его ошибочно приняли за то, что оно было написано полностью и исключительно человеческими руками. Кроме того, и вот в чем главная фишка, эссе не будет дубликатом или заметной копией чего-то другого, уже написанного на ту же тему. Создаваемое эссе будет, по сути, «оригиналом», насколько может установить любой случайный осмотр.

Студент, столкнувшийся с письменным заданием, может просто вызвать одно из этих генеративных приложений ИИ, ввести подсказку и вуаля, все его эссе написано за него. Им нужно только вырезать и вставить автоматически сгенерированный текст в пустой документ, тайком вставить в него свое имя и информацию о классе, и с некоторой смелой бравадой сдать его как свою собственную работу.

Вероятность того, что учитель сможет выяснить, что эссе было написано ИИ, а не учеником, почти равна нулю.

Скандальный!

Заголовки поспешно объявляли, что мы достигли горького конца, заставляя студентов писать эссе или выполнять практически любые внеклассные письменные задания. Единственным средством справиться с ситуацией, казалось бы, было бы использование написания эссе в классе. Когда учащиеся находятся в контролируемой среде, такой как классная комната, и предполагают, что у них нет доступа к ноутбукам или смартфонам, они обнаружат, что вынуждены писать эссе старомодным способом.

Чтобы уточнить, старомодный способ означает, что им придется писать исключительно с помощью собственных голов.

Любое эссе, сделанное вне классной комнаты, будет немедленно заподозрено. Студент написал эссе или это сделало приложение ИИ? Как уже упоминалось, эссе будет настолько хорошо написано, что вы не сразу поймете, что оно было написано машиной. Орфография будет безупречной. Синтаксис будет потрясающим. Линия дискурса и потенциальные наставнические аргументы будут убедительны.

Черт возьми, вы могли бы предположить, что генеративный ИИ раскроет свою пресловутую руку, написав эссе, которое выходит за рамки возможностей студента, решившего пойти по этому гнусному пути. Учитель может заподозрить что-то просто из-за того, что сочинение слишком хорошее. У сообразительного учителя возникло бы искушение предположить, что ученик не мог написать такую ​​элегантную и герметичную прозу. Начинают звонить внутренние тревожные звоночки.

Конечно, спорить со студентом по поводу его эссе будет некрасиво и может иметь неблагоприятные последствия.

Предположим, что студент тщательно написал сочинение самостоятельно. Возможно, они дважды и трижды проверили это. Также есть вероятность, что, возможно, их друг или знакомый посмотрел, чтобы обнаружить что-то, требующее дополнительной полировки. В общем, это все еще их эссе, написанное ими. Представьте себе, как учитель задает этому серьезному и прилежному ученику наводящие вопросы по поводу сочинения. Смущение и досада от того, что его по сути обвиняют в жульничестве, ощутимы, даже если учитель не делает такого заявления вслух. Самой простой конфронтации достаточно, чтобы подорвать уважение ученика и заставить его почувствовать себя ложно оклеветанным.

Некоторые настаивают на том, что любой учитель, у которого возникают подозрения относительно авторства эссе, должен попросить студента объяснить, что он написал. Предположительно, если сочинение было написано студентом, то конкретный студент сможет его адекватно объяснить. Учителя проводили такого рода исследования эоны лет. Студент мог заставить другого студента написать за него сочинение. Учащийся мог попросить родителей написать сочинение. В современном мире студент может заплатить кому-то через Интернет, чтобы тот тайно написал сочинение от его имени.

Таким образом, просить студента подтвердить авторство с помощью опроса в классе является обычным делом и не имеет большого значения.

Я рад, что ты поднял это.

Попытка мягко или демонстративно допросить студента — не такая простая лакмусовая бумажка, как вы могли бы подумать. Студент мог бы внимательно изучить сочинение, созданное ИИ, и подготовиться к потенциальному допросу.

Подумайте об этом так. Сначала студент создает эссе простым нажатием кнопки. Затем студент тратит уйму времени, которое он мог бы посвятить написанию эссе, вместо того, чтобы тщательно изучать и изучать эссе. Через некоторое время слова почти полностью запоминаются. Студент почти обманывает себя, полагая, что он действительно написал эссе. Это подобие уверенности и осведомленности могло легко заставить их пройти проверку под руководством учителя.

Ага, некоторые говорят, немного противопоставляя опасениям генеративных приложений ИИ, обратите внимание, что студент действительно «узнал» что-то, написав эссе. Конечно, студент не занимался беготней по теме и не составлял эссе, но тем не менее, если он внимательно изучил эссе, кажется, что он усвоил заданную тему. Студент, решивший выучить наизусть сочинение о Линкольне, вероятно, узнал о Линкольне что-то существенное.

Обучение произошло.

«Ого, — возразил он, — назначение, скорее всего, было двойным процессом. Изучение Линкольна могло быть относительно второстепенным. Настоящая цель состояла в том, чтобы студент научился писать. Эта существенная часть задания была полностью урезана. Учителя часто задают открытые темы и на самом деле просто стремятся дать ученику возможность научиться писать. Вам нужно изложить то, что вы хотите написать, вам нужно придумать слова, которые вы будете использовать, вы должны поместить слова в осмысленный набор предложений и абзацев и так далее. Простое чтение эссе, созданного ИИ, совершенно не согласуется с этим основополагающим аспектом задания на эссе.

Противодействием этому является утверждение, что учащийся потенциально учится письму, внимательно изучая письмо, созданное ИИ. Разве мы все не изучаем гроссмейстеров письма, чтобы увидеть, как они пишут? Наше письмо — это попытка достучаться до Шекспира и других великих писателей. Изучение письменного слова — действенный способ научиться писать.

Как в ожесточенном теннисном матче, мяч перемещается на другую сторону сетки. Хотя изучение хорошего писательского мастерства — это хорошо, вы должны в конечном итоге писать, если хотите уметь писать. Вы не можете просто бесконечно читать, а затем тупо предположить, что ученик теперь умеет писать. Им приходится писать, писать и продолжать писать, пока они не смогут ощутимо продемонстрировать и улучшить свои писательские способности.

Вы видите, как это все довольно загадка?

Имейте в виду, что во всем этом есть около миллиона или более поворотов.

Я расскажу о некоторых из наиболее оригинальных и интересных поворотов.

Настройка эссе с помощью подсказок ИИ

Только что упомянув Шекспира, вот один аспект генеративного ИИ, который может вас удивить. Во многих приложениях для генеративного ИИ вы можете сказать что-то вроде этого: «Напишите эссе о Линкольне, как если бы это эссе написал Шекспир». ИИ попытается создать эссе, которое, кажется, написано на языке, обычно используемом Шекспиром в его произведениях. Это довольно забавный и увлекательный подвиг, и многие получают от этого удовольствие.

Как это связано со студентом, который «мошенничает», используя генеративный ИИ для написания своих эссе?

Во многих приложениях для генеративного ИИ вы можете заставить ИИ писать менее чем звездным образом. ИИ будет стремиться создать эссе, которое будет несколько грубым по краям. Здесь или там есть проблемы с синтаксисом. Логика эссе может быть нервной или слегка бессвязной.

Это будет хитрая уловка. Студент берет получившееся эссе и сдает его. Эссе достаточно хорошо, чтобы получить высшую оценку, но в то же время не настолько идеально, чтобы вызвать гнев учителя. И снова ИИ сделал всю работу за студента, в том числе сделал эссе несколько несовершенным.

Вдобавок ко всему, большинство генеративных приложений ИИ позволяют вам использовать приложение столько, сколько вы хотите. Вот как это происходит. Студент вводит, что приложение ИИ должно написать несколько несовершенное эссе о Линкольне. Производится сочинение. Студент смотрит на эссе и понимает, что оно все еще слишком идеально. Студент вводит еще одну подсказку, которая дает ИИ указание сделать недостатки более заметными.

Вспенить, промыть, повторить.

Учащийся продолжает вводить подсказки и проверять полученные сочинения. Это происходит снова и снова. В конце концов, студент доводит ИИ до нужного уровня несовершенства в эссе. Версия Златовласки была достигнута. Он достаточно совершенен, чтобы получить высокую оценку, и достаточно несовершенен, чтобы не вызывать подозрений.

Я уверен, что некоторые из вас лукаво говорят, что если бы студент просто решил написать проклятое эссе, он, возможно, потратил бы меньше времени или, по крайней мере, столько же времени на написание самого эссе. Все это энергозатратное использование приложения ИИ могло быть направлено просто на написание эссе.

Ну, помните, студент не имеет это в виду. Легкость ввода подсказок и многократного просмотра и выбора желаемого эссе должна быть намного проще для студента. Час заниматься этим намного менее трудоемок, чем непосредственное написание эссе. Притворство в этом случае нужно сопоставлять с реальностью.

Что произойдет, если другие студенты сделают то же самое

Могу поспорить, что вы имели в виду эту умную мысль, когда читали предыдущий анализ эссе и генеративных приложений ИИ, а именно, что студент, несомненно, будет пойман, если многие другие студенты будут делать то же самое.

Позвольте мне объяснить.

Учитель поручает всему классу написать сочинение о Линкольне. Предположим, что 90 % учащихся решили использовать для этого задания приложение с генеративным искусственным интеллектом. Если 90 % кажутся чрезмерно угнетающими, используйте вместо них 10 %. Просто имейте в виду, что по мере того, как учащиеся узнают о полезности генеративных приложений ИИ, искушение использовать их будет расти как грибы.

Итак, значительная часть класса использует генеративное приложение ИИ. Вы можете предположить, что, следовательно, все студенты будут сдавать примерно одно и то же эссе Линкольна. Учитель заметит к тому времени, когда он будет оценивать третье или четвертое сочинение, что все сочинения почти одинаковы. Это будет большой подсказкой, что что-то не так.

Извините, но вряд ли вам так повезет.

Большинство генеративных приложений ИИ очень чувствительны к тому, как именно составлено приглашение. Если я напишу «Расскажите мне о Линкольне», а не «Расскажите мне о жизни Линкольна», скорее всего, эссе будут существенно отличаться. В первую очередь, возможно, эссе, созданное ИИ, посвящено президенту Линкольну во время его пребывания в Белом доме и ничего не говорит о его детстве. Другая подсказка может привести к эссе, описывающему его рождение и смерть.

Студенты, вероятно, не будут вводить именно то, что учитель дал им в качестве подсказки для эссе. Было бы разумно, как мошеннику, попробовать варианты. Но даже если все учащиеся введут одну и ту же подсказку, велика вероятность, что каждое эссе будет чем-то отличаться от других.

Эти ИИ-приложения используют обширную внутреннюю математическую и вычислительную сеть, которая в основном имеет широкое соответствие шаблону текста, найденного в Интернете. В процесс создания эссе включен вероятностный фактор. Выбранные слова вряд ли будут в том же порядке и в той же точной формулировке. Каждое созданное эссе, как правило, будет отличаться.

Однако в этом есть одна загвоздка. Если выбранная тема довольно неясна, есть шанс, что некоторые из созданных эссе будут похожи друг на друга. Частично это могло быть связано с тем, что узор в корне текста изначально был тонким. При этом способ написания эссе может быть совершенно другим. Все, что я говорю, это то, что суть контента как такового потенциально может быть примерно такой же.

Не желая показаться угрюмым, но вы могли бы потенциально сделать то же самое заявление о такой общей теме, как жизнь Линкольна. Сколько разных способов вы можете рассказать об общих аспектах его жизни? Если вы каким-то образом заманите студентов в запертый класс, чтобы они писали о Линкольне, и предоставите им онлайн-доступ к исследованию его жизни, я осмелюсь сказать, что шансы на то, что эссе будут чем-то похожи, все равно могут возникнуть.

Бесплатный и легкий фактор является существенным

Если современный студент хочет сжульничать, заплатив кому-то через Интернет за написание своего эссе, сделать это очень просто (надеюсь, это вас не шокирует, может быть, мне следовало предупредить заранее).

Проблема в том, что вам нужно платить за эссе. Кроме того, есть небольшой шанс, что вас могут поймать позже. Вы использовали кредитную карту для оплаты эссе? Возможно, лучше использовать какую-либо форму подпольной обработки платежей, чтобы не запутаться.

Красота или, возможно, раздражающий фактор генеративного ИИ заключается в том, что сейчас большинство из них доступны бесплатно. Оплата не требуется. Нет конкретной истории вашего использования (ну, чтобы было ясно, приложение ИИ может отслеживать ваше использование, тем более что многие из приложений ИИ требуют, чтобы вы зарегистрировались с адресом электронной почты, но, конечно, вы тоже можете подделать это ).

Некоторые люди, естественно, предполагают, что вам нужно быть мастером ИИ, чтобы использовать генеративное приложение ИИ.

Это не так.

В целом приложения для генеративного ИИ удивительно просты в использовании. Вы вызываете приложение AI. Он представляет вам открытое текстовое поле для ввода подсказки. Вы вводите приглашение и нажимаете «Отправить». Приложение AI генерирует текст.

Вот и все.

Никаких специализированных компьютерных языков не требуется. Нет знаний в области баз данных или науки о данных. Уверяю вас, что почти любой ребенок в школе может легко использовать генеративное приложение ИИ. Если ребенок умеет печатать, он может использовать эти приложения.

Некоторые утверждают, что компании, которые предоставляют приложения для генеративного ИИ, должны сначала проверить возраст пользователя, по-видимому, чтобы предотвратить использование ИИ несовершеннолетними в мошеннических целях при написании эссе. Если пользователь указывает, что он не взрослый, не позволяйте ему использовать приложение AI. Честно говоря, это маловероятный сценарий предотвращения, если только не будут приняты законы, связанные с ИИ, которые пытаются установить такого рода ограничения. Даже если такие законы будут приняты, вы, скорее всего, сможете обойти это, используя приложение для генеративного ИИ, размещенное в другой стране и т. д.

Другим запретительным аспектом может быть то, что использование приложений для генеративного ИИ стоит денег. Предположим, была плата за транзакцию или абонентская плата. Это поставило бы генеративное приложение ИИ в один ряд с теми людьми в Интернете, которые напишут для вас эссе и возьмут с вас плату за это. Труд будет конкурировать с ИИ (кроме того, все это предполагает, что люди, которые зарабатывают на жизнь написанием эссе для студентов, будут заменены ИИ, который делает то же самое; вопрос в том, должны ли мы быть опечалены или довольны). что те люди, которые зарабатывают на жизнь таким образом, больше не смогут жить таким образом).

Компании, разрабатывающие приложения для генеративного ИИ, безусловно, хотят зарабатывать на этих приложениях, хотя вопрос о том, как это сделать, пока неизвестен. Взимание комиссии за транзакцию, абонентскую плату или, возможно, взимание платы за сгенерированное слово — все это на столе. Вместо того, чтобы взимать плату с людей, монетизация может осуществляться с помощью рекламы. Возможно, каждый раз, когда вы используете определенное приложение для генеративного ИИ, вам сначала нужно увидеть рекламу. Это может быть заработок.

Я ненавижу проливать на это молоко, но как средство борьбы со списыванием студентов, это не будет серебряной пулей. Даже не близко.

Существуют версии генеративного ИИ с открытым исходным кодом. Люди размещают их там, а другие склонны делать приложение бесплатным. Так или иначе, даже если некоторые компании взимают плату, вы сможете найти варианты, которые можно использовать бесплатно, хотя вам может потребоваться просмотреть рекламу или, возможно, зарегистрироваться и предоставить некоторую информацию о себе в маркетинговых целях.

Помогает ли в этом многошаговый режим?

Студент решает использовать генеративное приложение искусственного интеллекта для создания своего эссе.

Вместо того, чтобы сразу сдать эссе, студент решает отредактировать эссе. Они благоразумно вынимают несколько слов здесь. Вставьте туда несколько слов. Переместите предложение вверх. Переместите предложение ниже. После небольшого редактирования и уточнения у них теперь есть эссе, которое они готовы сдать.

Является ли это сочинение работой студента или нет?

Я подвел вас к важному неразрешенному вопросу стоимостью в миллион долларов.

Давайте сделаем небольшую справку о законных правах и нарушениях. Это тема, которую я затронул совсем немного, например ссылка здесь и ссылка здесь, Например.

Вы, вероятно, уже знаете кое-что об авторских правах и о том, что известно как интеллектуальная собственность (ИС). Кто-то, у кого есть история, защищенная авторским правом, должен сохранить различные юридические права, связанные с этой историей. У них нет абсолютно железного всеохватывающего подобия законных прав. Есть исключения и исключения.

Одна из самых сложных проблем, связанных с нарушением чьих-либо авторских прав, — это близость того, что у вас может быть, по сравнению с первоисточником. Возможно, вы читали или видели новости об известных певцах и их текстах, в которых кто-то другой написал песню с, казалось бы, похожими текстами, и было ли это законным или нет.

Ранее я упоминал, что обычно приложение для генеративного ИИ не создает эссе, которое является точной копией других материалов, на которых оно было ранее обучено путем изучения контента в Интернете. Есть вероятность, что материал обобщается и сливается воедино, так что он уже не очень похож на то, из чего состоял исходный контент.

Нам придется подождать и посмотреть, как юридический процесс справится с этим. Если генеративное приложение ИИ создает произведение искусства, которое визуально явно похоже на какое-то произведение искусства из источника, мы, вероятно, склонимся к обвинению ИИ и создателей ИИ в нарушении авторских прав, связанных с оригинальной работой. Мы можем видеть это своими глазами.

Когда дело доходит до эссе, это может быть сложнее. Очевидными примерами являются случаи, когда целые предложения и абзацы дословно идентичны. Мы все это видим. Но когда формулировка отличается с небольшими различиями, мы попадаем в серые зоны.

Насколько далеким от исходного материала должен быть вновь созданный материал, чтобы заявить, что он является добросовестным оригиналом по своим достоинствам?

Это весомый вопрос.

Давайте свяжем это со студентом, который использует генеративное приложение ИИ для своего эссе.

Представьте на мгновение, что конкретное эссе, созданное приложением ИИ, будет истолковано как «оригинальное» эссе. Я говорю, предположим, что это никоим образом не нарушает никакое другое ранее существовавшее эссе или текстовое повествование где-либо на земле.

Затем студент начинает с первоисточника материала. Как уже было указано, студент редактирует и уточняет этот материал. Дело доходит до того, что оригинал, созданный приложением ИИ, теперь отличается от усовершенствованной версии, разработанной студентом.

Это обман?

Может быть да, может быть нет.

Вы можете возразить, что это так. Студент начал с того, что ИИ написал за него эссе. Все, что сделал студент, — это машинальная игра с сочинением. Мы ожидаем, что учащийся напишет эссе с потолка и применит для этого свои собственные ноггинги. Использование приложения ИИ для создания исходного уровня явно является мошенничеством. Поставьте учащемуся оценку «F».

Не так быстро. Вы можете возразить, что это не обман. Студент переработал исходный материал. Если сравнение между эссе, созданным приложением ИИ, и версией, доработанной студентом, является достаточно большой разницей, мы бы сказали, что студент написал эссе. Правда, при этом они использовали другой материал, но нельзя ли сказать то же самое, если бы они использовали энциклопедию или какой-либо другой источник? Этот студент заслуживает оценки «А» за то, что составил эссе собственным умом (несмотря на то, что для этого он сослался на другие материалы).

Учителя будут застигнуты врасплох этим и без того неприятным вопросом.

Один из подходов заключается в том, что учитель может категорически заявить, что учащиеся должны перечислить все материалы, на которые они ссылаются, включая информацию о том, использовалось ли приложение генеративного ИИ. Если учащийся не может прямо перечислить генеративный ИИ в качестве эталона, и если учитель узнает, что он не указал его, учащийся в целом получает оценку «F» за задание. Или, возможно, некоторые школы сочтут это актом списывания, из-за которого учащийся автоматически получает провал. А может быть, выгнали. Посмотрим, как далеко школы зайдут в этих вопросах.

В общем, мы движемся к перевернутому миру интеллектуальной собственности и юридических прав собственности на такие произведения, как эссе (текст), искусство (изображения) и видео, в том числе:

• Некоторые будут добиваться правовой защиты от создателей генеративного ИИ в отношении источников контента, которые использовались ИИ для создания производимого продукта.
• Некоторые возьмут результаты генеративного ИИ и посчитают результат своей собственной работой, а затем попытаются добиться правовой защиты от любого, кто нарушает их «оригинальную» работу.
• Это может циклически повторяться, например, когда кто-то создает результат генеративного ИИ, который размещается в Интернете, а затем появляется какой-то другой генеративный ИИ и использует его в своем обучении созданию подобных работ.

Превращение негатива в позитив

Некоторые увещевают, что все эти разговоры о вреде генеративного ИИ, когда речь идет о списывании студентов, возможно, затуманивают наш разум.

Возьмите это в другом направлении.

Ты садишься?

Возможно, учителям следует подумать о том, чтобы учащиеся использовали генеративный ИИ как часть процесса обучения написанию эссе.

Я уже писал о т.н. двойное использование ИИ см. ссылка здесь. Идея состоит в том, что иногда систему ИИ можно использовать во зло, а иногда ее можно переключить и использовать во благо. Беспокоит тот аспект, когда кто-то пишет ИИ во благо и в блаженном неведении о том, как легко его ИИ можно превратить в призрак зла. Часть Этический ИИ является осознание того, что ИИ должен быть разработан таким образом, чтобы он не мог в одночасье превратиться в проклятие. Это постоянная проблема.

Вернемся к генеративному ИИ для создания эссе.

Ранее я говорил о том, что студент может научиться писать, просматривая уже существующие письменные работы. Это имеет большой смысл. По сути, чем больше вы читаете, тем больше шансов, что вы расширяете свое ментальное подобие в сторону способности писать. Как говорилось ранее, вам все равно нужно писать, поскольку все чтение в мире не обязательно сделает вас хорошим писателем, если вы не будете практиковать процесс письма.

Мы могли бы использовать генеративный ИИ, чтобы усилить эту связь чтения и записи. Попросите учащегося намеренно использовать генеративный ИИ. ИИ создает эссе. Студенту дается задание критически оценить сочинение, созданное искусственным интеллектом. Затем студенту поручают написать новое эссе, возможно, на другую тему, но при этом он может использовать структуру и другие общие элементы предыдущего эссе, созданного ИИ.

Некоторые предполагают, что это может быть даже более продуктивным для студентов, чем простое чтение книг или других текстов авторов, с которыми у студента нет возможности «взаимодействовать». С помощью приложения ИИ учащийся может попытаться повторить и создать исходное эссе, используя множество подсказок, одну за другой. Студент может попросить ИИ написать небольшое эссе о Линкольне. Затем студент просит длинное эссе о Линкольне, написанное неформальным тоном. Ознакомившись с этим, учащийся указывает приложению ИИ, чтобы оно создало строго формализованную версию эссе Линкольна. И т.д.

Сделанное утверждение состоит в том, что это может существенно помочь учащемуся в изучении письма и того, как может происходить письмо.

Недавняя исследовательская работа предлагает именно эту точку зрения: «Авторы этой статьи считают, что ИИ можно использовать для преодоления трех барьеров на пути к обучению в классе: улучшения передачи, разрушения иллюзии глубины объяснения и обучения учащихся критической оценке объяснений» ( в статье под названием «Новые способы обучения, обеспечиваемые чат-ботами с искусственным интеллектом: три метода и задания», д-р Итан Моллик и д-р Лайлач Моллик, Уортонская школа Пенсильванского университета и Wharton InteractiveДекабрь 12, 2022)

Например, они отмечают, что улучшение переноса обучения может происходить следующим образом: «ИИ — это дешевый способ предоставить учащимся множество примеров, некоторые из которых могут быть неточными, нуждаться в дополнительном объяснении или могут быть просто выдуманы. Для учащихся с базовыми знаниями по теме вы можете использовать ИИ, чтобы помочь им проверить свое понимание и явно подтолкнуть их к названию и объяснению неточностей, пробелов и недостающих аспектов темы. ИИ может предоставить бесконечную серию примеров концепций и приложений этих концепций, и вы можете подталкивать учащихся: сравнивать примеры в разных контекстах, объяснять суть концепции и указывать на несоответствия и недостающую информацию в том, как ИИ применяет концепции. к новым ситуациям» (там же).

Это похоже на старый рефрен: если не можешь победить их, присоединяйся к ним.

Превратите генеративный ИИ в образовательный инструмент.

Yikes, приходит быстрый ответ.

Вы сажаете лису в курятник. Учащиеся, которые понятия не имели, что такое генеративный ИИ, теперь открыто продемонстрируют это явными действиями учителя и их школ. Если студенты ничего не знали о возможностях списывания, вы бросаете это прямо им в лицо и в их руки.

Кажется совершенно отвратительным, что власть предержащие знакомят студентов со средствами жульничества. Таким образом, вы навсегда ввергнете самых честных студентов в царство обманных искушений. Каждый будет иметь доступ к читерской машине. Им говорят так делать. Не нужно это скрывать. Не нужно делать вид, что вы не используете генеративный ИИ. Школа и учитель заставили тебя использовать это.

Ответ на это заключается в том, что вы должны слепо и невежественно прятать голову в песок, чтобы думать, что студенты не собираются знакомиться с генеративным ИИ. Пока вы глупо притворяетесь, что они не знают об этом, они суетятся за пределы школы, чтобы воспользоваться этим. Лучше всего представить им эту вещь, обсудить, для чего она может и не может быть использована, и пролить свет на всю загадку.

Это довольно круто.

Те из вас, кто занимается исследованиями инновационных технологий в образовании, могут захотеть взглянуть на генеративный ИИ и на то, как он может изменить характер образовательных подходов и повлиять на обучение учащихся. Это произойдет достаточно скоро.

Использование обнаружения, чтобы спасти нас от разорения

Смените шляпу и давайте на мгновение рассмотрим цифровое искусство.

Если вы создаете произведение цифрового искусства, возможно, вам захочется пометить его каким-либо образом, чтобы впоследствии можно было определить, решил ли кто-то использовать или повторно использовать ваши художественные работы. Простой способ сделать это состоит в том, чтобы изменить некоторые пиксели или точки в вашем цифровом изображении. Если вы сделаете несколько здесь или там, внешний вид произведения искусства все равно будет казаться человеческому глазу таким же. Они не заметят те крошечные пиксели, которым присвоен какой-то особый цвет, который можно увидеть только при внимательном рассмотрении с помощью цифровых инструментов.

Возможно, вы знаете об этих методах как о форме водяных знаков. Так же, как в старые времена были попытки ставить водяные знаки на бумажные материалы и другой нецифровой контент, мы постепенно наблюдаем рост цифровых водяных знаков.

Цифровой водяной знак может быть скрыт в изображении цифрового произведения искусства. Если это может показаться навязчивым для изображения, вы можете попробовать встроить водяной знак в файл, содержащий цифровую иллюстрацию (так называемые «метаданные» цифровой работы).

Может возникнуть игра в кошки-мышки.

Появляется какой-то злодей и обнаруживает ваш цифровой водяной знак. Они удаляют это. Теперь они, казалось бы, могут свободно использовать ваше цифровое произведение искусства, не беспокоясь о том, что вы сможете позже заглянуть в него и продемонстрировать, что это явное плагиат ваших усилий. Эти негодяи!

Нам нужно усилить цифровой водяной знак, что мы можем сделать с помощью криптографических методов и технологий. Подумайте о секретных сообщениях и кодировании.

Идея состоит в том, что мы кодируем цифровой водяной знак так, чтобы его было трудно найти. Это также потенциально трудно удалить. Мы могли бы даже попытаться гарантировать, что программное обеспечение, которое будет отображать или разрешать использование цифрового произведения искусства, должно сначала проверить и увидеть, что в произведении существует действительный закодированный цифровой водяной знак, иначе оно будет считаться ненадлежащей копией. Поймал тебя с поличным.

Можем ли мы сделать то же самое для генеративного ИИ, создающего текст?

Перчатка была заложена. Однако проблема может быть в некоторой степени сложнее, чем при рассмотрении цифровых водяных знаков для художественных работ.

Вот почему.

Предположим, что единственное место, где вы можете разместить водяной знак, — это непосредственно сам текст. Я говорю это, потому что сгенерированный текст не обязательно попадает в файл. Текст просто текст. Вы можете вырезать и вставить его из генеративного инструмента искусственного интеллекта. В этом смысле обычно нет метаданных или файла, в который можно встроить водяной знак.

Вы должны сосредоточиться исключительно на тексте. Чистый текст.

Один из способов — заставить генеративный ИИ незаметно создавать текст так, чтобы его можно было отследить. В качестве грубого, но непрактичного примера представьте, что мы решили начинать каждое третье предложение со слова «И» в начале предложения. Мы все равно создадим, казалось бы, совершенно беглое эссе. Единственная хитрость в том, что каждое третье предложение начинается с выбранного нами волшебного слова. Никто больше не знает, чем мы занимаемся.

Учащийся использует генеративный ИИ для написания заданного эссе о Линкольне. Ученик берет его прямо из приложения ИИ и отправляет по электронной почте учителю. Оказывается, студент ждал до последнего момента и уложился в опубликованный срок. Нет времени пересматривать сочинение. Просто отправьте его и надейтесь на лучшее.

Учитель смотрит сочинение. Предположим, мы сказали ей, что наш водяной знак состоит из волшебного слова, используемого в начале каждого третьего предложения. Учитель обнаруживает, что это имеет место в представленном сочинении. Хотя вероятность того, что студент написал эссе, и, возможно, любит использовать это конкретное слово в начале каждого третьего предложения, невероятно мала, я думаю, мы можем разумно согласиться с тем, что это крайне маловероятно, и вместо этого студент, вероятно, использовал генеративный ИИ. для производства эссе.

Вы видите, как это работает?

Я верю, что вы делаете.

Теперь проблема заключается в том, как придумать водяной знак, который не так очевиден. Студент может заметить, что в предложениях странным образом используется определенное слово. Они могут догадаться, что происходит. В свою очередь, учащийся может передвигать предложения и делать некоторые переформулировки. Это затем в значительной степени топит этот конкретный водяной знак, поскольку эссе больше не определяется как написанное генеративным ИИ.

Игра в кошки-мышки снова продолжается.

Нам нужно создать плавный текст, который каким-то образом содержит «водяной знак» таким образом, чтобы его было трудно различить. Кроме того, если возможно, водяной знак должен сохраняться, даже если эссе немного отредактировано. Полная ревизия, вероятно, не позволит водяному знаку выжить. Но нам нужна некоторая избыточность и отказоустойчивость, чтобы водяной знак предпочтительно можно было обнаружить, даже если в текстовую область внесены некоторые изменения.

Исследователь, выполняющий некоторую работу для компании, которая создает ChatGPT (приложение AI от OpenAI), исследует некоторые интересные криптографические усилия, связанные с водяными знаками. Скотт Ааронсон, профессор компьютерных наук в Техасском университете в Остине, недавно выступил с докладом о некоторых проводимых работах (стенограмма опубликована в его блоге).

Рассмотрим этот отрывок, в котором он кратко объясняет существующий подход: «Как это работает? Для GPT каждый ввод и вывод представляет собой строку токенов, которые могут быть словами, а также знаками препинания, частями слов и т. д. Всего имеется около 100,000 XNUMX токенов. По своей сути, GPT постоянно генерирует распределение вероятностей для следующего токена, который нужно сгенерировать, в зависимости от строки предыдущих токенов. После того, как нейронная сеть сгенерирует распределение, сервер OpenAI затем фактически выбирает токен в соответствии с этим распределением или какой-либо модифицированной версией распределения, в зависимости от параметра, называемого «температура». Однако пока температура отлична от нуля, выбор следующей лексемы обычно будет происходить случайным образом: вы можете запускать снова и снова с одним и тем же приглашением и каждый раз получать другое завершение (т. е. строку выходных лексем). ».

Как уже отмечалось, существует определенная степень случайности в отношении того, какие слова будут помещены следующими в эссе, которое создается приложением ChatGPT. Это также объясняет сделанное ранее замечание о том, что каждое эссе, вероятно, будет несколько отличаться, даже если оно посвящено одной и той же теме. Целенаправленное использование метода случайного отбора в определенных пределах скрыто во время создания эссе.

Теперь мы переходим к самой пикантной части, к криптографической мешанине: «Итак, чтобы поставить водяной знак, вместо того, чтобы выбирать следующий токен случайным образом, идея будет состоять в том, чтобы выбрать его псевдослучайно, используя криптографическую псевдослучайную функцию, ключ которой известен только OpenAI. . Это не будет иметь никакого заметного значения для конечного пользователя, если предположить, что конечный пользователь не может отличить псевдослучайные числа от действительно случайных. Но теперь вы можете выбрать псевдослучайную функцию, которая тайно искажает определенную оценку — сумму по определенной функции g, вычисляемую для каждой n-граммы (последовательности n последовательных токенов) для некоторого малого n — какую оценку вы также можете вычислить, если знаете ключ к этой псевдослучайной функции».

Я понимаю, что это может показаться несколько технологически забитым.

Суть в том, что созданное эссе будет казаться беглым, и вы не сможете легко различить, читая эссе, что оно содержит цифровой водяной знак. Чтобы выяснить, содержит ли данное эссе водяной знак, вам нужно будет ввести эссе в специально разработанный детектор. Программа, выполняющая обнаружение, вычислит значение на основе текста и сможет сравнить его с сохраненным ключом. В описываемом подходе ключи будут храниться у поставщика и не будут доступны иным образом, поэтому, предполагая, что ключи хранятся в секрете, только помазанная программа обнаружения может вычислить, вероятно ли в этом случае эссе было получено из ChatGPT.

Далее он признает, что это не является надежным: «Теперь все это можно победить, приложив достаточно усилий. Например, если вы использовали другой ИИ для перефразирования вывода GPT — ну ладно, мы не сможем это обнаружить. С другой стороны, если вы просто вставите или удалите несколько слов здесь и там или измените порядок некоторых предложений, сигнал водяного знака все равно будет присутствовать. Поскольку он зависит только от суммы в n-граммах, он устойчив к такого рода вмешательствам».

Учителю может быть предоставлен доступ к программе-детектору, которая будет проверять сочинения учеников. Предположим, что дело обстоит относительно просто: учитель заставляет учеников отправлять свои сочинения по электронной почте учителю и автоматическому детектору. Затем приложение-детектор информирует учителя о вероятности того, что в этом случае эссе будет создано ChatGPT.

Теперь, если детектор открыт для всех, у вас будут «сверхуспевающие» студенты-обманщики, которые будут просто запускать свои эссе в детектор и вносить ряд изменений, пока детектор не покажет низкую вероятность того, что эссе было получено с помощью генеративного метода. ИИ. Больше в кошки-мышки. Предположительно, детектор должен быть надежно защищен с помощью пароля, или необходимы какие-то другие средства или методы работы с криптографическими подходами (существует множество как основанных на ключе, так и бесключевых методов, которые можно использовать).

Учитель может столкнуться с возможностью использования десятков или сотен генеративных приложений ИИ, доступных для использования в Интернете. В этом случае, пытаясь заставить все это использовать цифровые водяные знаки и вставляя эссе во все из них, это становится еще более заманчивым и сложным с точки зрения логистики.

Больше никаких сочинений вне класса

Перспектива гибели и мрака заключается в том, что, возможно, учителям придется отказаться от использования внешнего написания эссе. Все сочинения должны быть написаны только в контролируемой среде класса.

С этим очень и очень много проблем.

Предположим, что обычно студенту требуется десять часов, чтобы написать конкретное полномасштабное эссе, которое является классным проектом. Как это сделать в классе? Собираетесь ли вы разделить его на части и попросить студента написать небольшой фрагмент эссе в течение нескольких дней? Подумайте о трудностях, которые это представляет.

Некоторые утверждают, что, возможно, дело раздувается.

Учителя должны поступать так же, как они всегда поступали с плагиатом учеников. Заранее учитель заявляет, что плагиат является серьезной проблемой списывания. Подчеркните, что любое использование генеративного ИИ будет считаться мошенничеством.

Применяйте наказания, которые имеют значительный вес, такие как низкая оценка, провал в классе или исключение из школы, если дело зашло так далеко. Требовать, чтобы учащиеся подтверждали в письменной форме для каждого внешнего задания на сочинение, что то, что они сдали, является их работой (сделано это без вспомогательных средств, таких как генеративный ИИ, копирование из Интернета, использование сокурсников, использование родителей, оплата за выполнение и т. д.). скоро). Кроме того, потребуйте, чтобы учащиеся перечислили все онлайн-инструменты, использованные при подготовке работы, в том числе особо отметили любое использование генеративного ИИ.

Учитель может использовать или не использовать приложение-детектор, чтобы попытаться определить, вероятно ли отправленное эссе приложение генеративного ИИ. Это потенциально обременительный шаг, зависящий от того, насколько легко использовать детекторы и как легко получить к ним доступ.

Учителя, по-видимому, уже должны принимать меры по выяснению того, кажутся ли письменные эссе законными. При написании эссе в классе есть возможность сравнить и сопоставить, понимая, однако, что время для написания в классе меньше, а также может быть ограничено ограничением, запрещающим доступ к справочным материалам в Интернете.

Суть в том, что мы не должны идти по пути резкого отказа от написания эссе со стороны. Некоторые сетовали бы на это как на опрометчивый поступок, напоминающий выплескивание вместе с водой и ребенка (старая поговорка, от которой, возможно, стоит отказаться).

Если внешнее письмо будет полностью прекращено как учебная деятельность, вероятно, будут серьезные и длительные недостатки удаления этого, казалось бы, повседневного образовательного занятия из учебной программы. Существует компромисс. Сколько студентов будут списывать, несмотря на все вышеупомянутые сдержки и противовесы? Сколько студентов не будут жульничать и, следовательно, продолжат использовать полезный образовательный подход для повышения своего писательского мастерства?

Теоретически, надеюсь, процент мошенников будет достаточно мал, так что внешнее письмо по-прежнему заслуживает похвалы для большинства студентов.

Заключение

ИИ может быть настоящей головной болью.

Для учителей ИИ может быть как благословением, так и проклятием. В любом случае, это означает, что учителя должны знать об ИИ, а также о том, как бороться с перипетиями ИИ, связанными с их преподавательской деятельностью, что является еще одним дополнительным грузом на их и без того перенапряженных спинах и плечах. Привет всем учителям.

Может быть, мы можем пожелать, чтобы ИИ ушел.

Нет.

Видите ли, мы не собираемся повернуть время вспять и отказаться от генеративного ИИ. Тот, кто призывает к этому, — мечтатель. И, кстати, я использую слово «И» в качестве первого слова третьего предложения этого абзаца (упс, выдаю ключ!), генеративный ИИ никуда не денется.

Вот подсказка, чтобы разжечь жаркие дискуссии: Генеративный ИИ станет более распространенным и будет обладать еще более поразительными и нервирующими возможностями.

Отверстие Mic.

Последняя мысль на данный момент.

Как известно, Шекспир писал: «Быть ​​или не быть: вот в чем вопрос».

Уверяю вас, что генеративный ИИ будет. Это уже есть.

Мы должны выяснить, как мы хотим, чтобы генеративный ИИ вошел в нашу жизнь, и как общество решит формировать и направлять его использование. Если вам когда-нибудь понадобилась причина для размышлений об этике и законе ИИ, возможно, генеративный ИИ подтолкнет вас к стремлению узнать, кто мы такие, даже если мы не знаем, кем мы можем быть (скрытая отсылка к Шекспиру).