Учитывая, что суверенная нейросеть для школьников создавалась без участия открытого профессионального сообщества, и, скорее всего, кулуарно, есть серьёзные риски, что там будет много ошибок. Об этом НСН рассказал руководитель лаборатории «Машинное обучение и семантический анализ» института ИИ МГУ Константин Воронцов.
Первую суверенную нейросеть в образовании могут представить до конца учебного года, сообщил журналистам министр просвещения РФ Сергей Кравцов. Он отметил, что это «уникальная разработка», которой нет аналогов в мире. По его словам, это будет защищенная сеть, безопасная для детей, которая будет рекомендована для использования в учебном процессе в дополнение к традиционной системе образования. Воронцов выразил серьезное беспокойство по поводу того, кто и как ее создавал.
«Есть подозрение, что это будет сделано криво, кулуарно, тогда как именно такого рода разработки надо выносить на широкое общественное обсуждение и давать открытый доступ профессиональному сообществу для создания тестов и бенчмарков. Без этого никак нельзя. Если этим будет заниматься узкая группа людей, то они обязательно накосячат. Такого рода стандартизация, разработка регламентов длится долго. Это работа на год для очень большой серьёзной команды, которую никак нельзя поручать какой‑то отдельно взятой фирме, даже если это Сбербанк. Здесь должно создаться профессиональное открытое сообщество, в которое могут войти сертифицированные учителя. Туда должны войти технологические компании, кто‑то, кто будет критично анализировать получаемые результаты», — рассказал он.
Также он указал, что было бы идеально, если бы эта нейросеть давала более углубленные знания школьнику, но при этом не заменяла бы учителя.
«Я приветствую некую открытую систему знаний, где любому школьнику доступна информация сверх школьной программы, хорошо структурированная. Например, он проболел урок и посмотрел все это дело даже чуть шире, чем давал учитель на уроке. Если будет система, которая позволяет не заменять учителя, а просто быть такой супер поисковой системой для структуризации знаний — это очень здорово. Это может помочь в том смысле, что наше образование проседает, мы разделили все по предметам, и целостной картины мира школьник не получает», — указал он.
При этом Воронцов указал на критическую важность беспристрастности такого ИИ и отметил, что сейчас нет никаких гарантий, что эта нейросеть для школьников будет таковой.
«С одной стороны, есть угроза, с другой — она устраняется известными способами. Если это действительно хороший, мощный ИИ, он дает ссылки на проверенные первоисточники, дает разные взгляды на один и тот же вопрос, то есть снимает пристрастность. Вопрос в том, как это реально будет реализовано в той системе, которую нам обещают. А реализовать это в рамках ИИ на сегодняшний день вполне реально. Конечно, живое человеческое взаимодействие между учителем и учеником отменить невозможно. Это мы получим в перспективе 20 лет какой-то совершенно другой социум. И воспитательную функцию надо возвращать в школы», — подытожил он.
Ранее стало известно, что новый внеурочный курс «Искусственный интеллект и информационная безопасность» введут во всех школах России с 2027 года, передает Telegram-канал «Радиоточка НСН».