Отсутствие четкого национального регулирования в сфере искусственного интеллекта (ИИ), наплыв псевдоэкспертов, проводящих поверхностное обучение, а также уязвимость молодежи перед лицом технологических «галлюцинаций» на сегодняшний день представляют собой наиболее серьезные угрозы для управления использованием ИИ в системе высшего образования. Вместо того чтобы служить инструментом, используемым в контролируемом режиме, искусственный интеллект зачастую ставит университеты перед выбором из двух опасных крайностей: полного запрета или чрезмерного использования. Таковы некоторые из опасений, озвученных Анжелой Глоба – доцентом Государственного педагогического университета имени Иона Крянгэ в Кишиневе и гостьей июльского выпуска подкаста cuMINTE.
По мнению гостьи, понимание принципов работы искусственного интеллекта необходимо для того, чтобы избежать дезинформации, вызванной такими явлениями, как предвзятость или технологические «галлюцинации». «Искусственный интеллект действительно генерирует всё, что мы хотим, однако при анализе текста следует учитывать два важных понятия: предвзятость, то есть склонность писать то, что хочет увидеть автор запроса, и «галлюцинации», когда технология выдает ошибочный текст из-за отсутствия источника информации, но при этом преподносит его как достоверный. Если мы не начнем внедрять искусственный интеллект, это сделают другие и значительно нас опередят; однако главное – применять его этично и ответственно. Я сама использую этот подход логически и подробно объясняю студентам, как именно я это делаю, поскольку через конкретный пример нам гораздо проще достучаться до сознания молодых людей – и достичь поставленных целей», – пояснила Анжела Глоба.
Гостья отметила, что одной из главных проблем, стоящих сегодня перед академическим сообществом и обществом в целом, является отсутствие четких правил, из-за чего преподаватели и студенты оказываются в двух крайних положениях, которыми трудно управлять. «На национальном уровне существуют значительные пробелы, поскольку отсутствуют четкие нормы, определяющие границы допустимого использования искусственного интеллекта в научных исследованиях и других сферах его внедрения. В результате мы оказываемся между двумя крайностями: есть педагоги, которые полностью запрещают ИИ, полагая, что он порождает зависимость и подавляет критическое мышление, и учителя, разрешающие использовать любые инструменты без каких-либо ограничений. Эти крайности требуют регулирования, особенно с учетом появления на рынке множества псевдоэкспертов, проводящих обучение без соответствующей сертификации, в то время как у учебных заведений не хватает средств на приобретение комплектов базовых и специализированных ресурсов для студентов и исследователей», – отметила преподавательница университета.
Важным элементом надлежащего использования ИИ в учебном процессе является сохранение базовых знаний и отказ от полной автоматизации учебных задач. «Я говорю и студентам, и школьникам: чтобы читать и понимать информацию, созданную искусственным интеллектом, необходимо обладать предварительными знаниями, иначе система не работает. Недопустимо составлять простой запрос к ИИ с требованием сгенерировать дипломную работу – главу за главой и страницу за страницей – на основе оглавления, предоставленного преподавателем. С другой стороны, если вы в ходе исследования собрали достоверные статистические данные и просите модель помочь с анализом или построить график, чтобы сэкономить время, – это вполне допустимо; однако и в этом случае необходимо проверять результат, поскольку ИИ может выдать вымышленные исследования или ошибочно объединить данные за разные годы, приведя процентные показатели, не имеющие ничего общего с реальностью», – отметила Анджела Глоба.
По ее словам, ответ на эти технологические вызовы был оперативно найден внутри самого университета благодаря инновационному исследовательскому проекту, который финансировался и разрабатывался по инициативе студентов и магистрантов. «Идея, возникшая у двух студентов, переросла в проект под названием «Методология разработки комплексной модели выявления дезинформации и борьбы с ней в Республике Молдова», предусматривающий создание цифровой системы на базе искусственного интеллекта. По сути, мы создали новую LLM – языковую модель, – обученную на обширной базе данных дезинформационных нарративов из нашего региона, собранных с таких платформ, как Stopfals или Mediacritica. Пользователь вводит текст или ссылку, а система анализирует содержание, оценивает уровень манипуляции или кликбейта и выдает взвешенное заключение: возможно правда; частично правда; возможно ложь; или не поддается проверке», – пояснила гостья.
Эта цифровая платформа, дополненная магистрантами образовательными видеоматериалами для различных возрастных групп, в конечном счете призвана стимулировать критическое мышление, не подменяя собой принятие решений человеком.
«Мы не хотели, чтобы система выносила абсолютный вердикт, поскольку система ни в коем случае не должна принимать решения за вас. Система предлагает выводы, проверяет факты и предоставляет официальные ссылки, по которым можно перепроверить новости, но окончательное решение всегда остается за человеком. Вот что я больше всего стараюсь объяснить студентам: не позволяйте никому – и особенно искусственному интеллекту – принимать решения за вас. Именно вы должны управлять искусственным интеллектом, а не наоборот, поскольку правильная оценка информации – будь то из СМИ или от научного сообщества – всегда будет опираться на ваши собственные знания и критическое мышление», – подытожила гостья подкаста.
