В России вышло первое учебное пособие по этике искусственного интеллекта: учёные МИФИ перевели мораль на язык кода

Книгу написали профессор кафедры философии, онтологии и теории познания Екатерина Тихомирова и преподаватель кафедры кибернетики Роман Душкин. Пособие уже включено в программу корпоративного учебного центра одной из компаний-соиздателей.

О чём книга: от философии к RLHF и red teaming

Авторы начинают с разграничения понятий, которые в публичной дискуссии чаще всего смешивают: этика как наука, мораль как система культурных норм, нравственность как личностное их освоение и право как формализованный, институционально закреплённый срез. Ключевой тезис — подмена этики правом ведёт к технократическому минимализму, при котором допустимо всё, что прямо не запрещено законом.

Инженерная часть прослеживает историю формализации морали от экспертных систем советского периода до современных инструментов согласования поведения моделей с человеческими ценностями:

• RLHF — обучение с подкреплением на основе обратной связи от человека;

• Constitutional AI — «конституционные» ограничения внутри модели;

• red teaming — тестирование систем с имитацией атак и злоупотреблений;

• governance pipeline — выстраивание процессов управления ИИ.

Отдельные разделы посвящены типологии сбоев и злоупотреблений в ИИ-системах, а также критике формальных этических кодексов: без технических механизмов, воплощающих заявленные принципы в самих системах, такие документы лишь создают иллюзию контроля.

Почему это важно для разработки?

Пособие разбирает, как универсальные понятия добра и справедливости получают разное наполнение в китайской, японской, российской и западной традициях. Для разработчиков систем, работающих в разных культурных средах, это принципиальный момент: одна и та же модель может по-разному восприниматься пользователями в зависимости от их культурного контекста.

Вопрос ответственности за решения алгоритмов обострился на фоне внедрения больших языковых моделей в бизнес, медицину и госуправление. При этом на рынке сохраняется дефицит специалистов, способных работать одновременно с философским аппаратом и техническими инструментами alignment. Издание призвано закрыть именно этот разрыв.

Как устроено издание?

Соиздателями книги выступили Издательство МНИИПУ (Международный научно-исследовательский институт проблем управления) и компания «Экосистемные цифровые решения» (ООО «ЭЦР»). Последняя разработала цифровое сопровождение пособия и уже включила его в программу подготовки специалистов в своём учебном центре.

«Этика искусственного интеллекта» открывает цикл изданий МИФИ о философском осмыслении технологий. Следом в серии заявлены «Эстетика искусственного интеллекта», «Антропология искусственного интеллекта» и «Философия искусственного интеллекта».

Что это значит для читателя?

Для студентов и разработчиков появление пособия означает, что междисциплинарный профиль «этика + инженерия ИИ» наконец получает системную учебную базу на русском языке. Книга рекомендована как базовый материал для вузовских курсов «Философия науки и этика ИИ» — то есть в ближайшие годы такие компетенции начнут преподавать шире, чем раньше.

Вывод

Пособие показательно для российской отрасли: этика ИИ перестаёт быть декларативной темой и становится инженерной дисциплиной. Логика авторов проста — если моральные принципы не воплощены в архитектуре системы, они не работают. В стране, где ИИ всё активнее внедряется в бизнес и госуправление, такой подход выглядит своевременным.

Источники

• Inc. Russia — «В России появилось пособие по этике искусственного интеллекта»

• РБК Компании / Рамблер — «В России вышло первое учебное пособие по этике искусственного интеллекта»

• Газета «Советская Россия» — «Учёные МИФИ написали первое в России учебное пособие по этике ИИ»

• Пресс-служба НИЯУ МИФИ