Разделить ответственность за использование технологии ИИ между пользователем и разработчиком. в рамках Кодекса этики или гос.регулирования

 

Ответственность в сфере больших фундаментальных моделей (БФМ) по ФЗ № 243-ФЗ

Вопрос об ответственности нейросетей и систем искусственного интеллекта активно обсуждается в юридическом и научном сообществах, особенно в связи с их стремительным внедрением в повседневную жизнь. На основе предоставленных источников этот вопрос делится на три ключевых аспекта: правовой статус ИИ, ответственность участников ИТ-рынка и распределение рисков при физическом использовании технологий.

1. Может ли нейросеть быть субъектом ответственности?

Согласно российским правовым исследованиям и судебной практике, искусственный интеллект не признается субъектом правонарушения в его классическом понимании. Это обусловлено фундаментальными юридическими нормами:

• ИИ как инструмент и объект: На данном этапе развития технологии ИИ классифицируется исключительно как объект правоотношений и сложный инструмент, имитирующий когнитивные функции человека, а не как самостоятельный субъект.
• Отсутствие морально-этической оценки: Применение классических мер наказания к самому ИИ невозможно, поскольку наказание для программы лишено морально-этического содержания и не может выполнять воспитательную или сдерживающую функцию.
• Концепция «электронного лица»: Эксперты обсуждают возможность введения концепции «электронного лица» для применения гражданско-правовой ответственности. Однако такая модель неприменима в рамках уголовной или административной ответственности. Внедрение этого механизма в будущем возможно лишь после детальной проработки законодательной базы и глубокого понимания принципов работы ИИ и методов контроля над ним.

Кроме того, на практике ИИ не признается автором произведений в сфере авторского права, однако алгоритмы способны значительно масштабировать проблему ошибок.

2. Ответственность в сфере больших фундаментальных моделей (БФМ) по ФЗ № 243-ФЗ

Новый Федеральный закон № 243-ФЗ переносит фокус ответственности с самой технологии на людей и компании, которые её создают и используют.

• Ответственность участников отношений: За нарушение требований закона и сопутствующих нормативных актов участники отношений в сфере разработки, внедрения и применения БФМ ИИ несут ответственность в соответствии с законодательством РФ.
• Обязанности разработчиков: Разработчики суверенных и национальных моделей обязаны самостоятельно минимизировать риски и обеспечивать безопасность применения систем. В частности, они должны принимать технические меры защиты, разрабатывать правила эксплуатации (устанавливающие ограничения и условия вывода из эксплуатации) и вести техническую документацию для оценки рисков.
• Риск-ориентированный подход: Государственное регулирование применения БФМ строится на оценке вероятности и масштаба вреда жизни, здоровью, деловой репутации или имуществу граждан и компаний, а также технологической независимости страны.
• Страхование ответственности: Закон предоставляет разработчикам право страховать свою ответственность за причинение вреда третьим лицам при применении их БФМ ИИ.

3. Распределение ответственности при физическом ущербе (на примере беспилотников)

Когда ИИ управляет физическими объектами, концепция «ответственности алгоритма» полностью заменяется четким распределением ответственности между людьми и организациями. Согласно законопроекту «О высокоавтоматизированных транспортных средствах», при ДТП с беспилотником виновными могут быть признаны:

• Производитель: если авария произошла из-за сбоя или дефекта автоматизированной системы вождения.
• Владелец: если были нарушены правила эксплуатации (например, машина использовалась в непредусмотренных условиях или владелец самостоятельно изменил ПО/конструкцию).
• Сервисный центр: за последствия некачественного технического обслуживания или ремонта.
• Оператор дистанционной поддержки: за неисполнение своих обязанностей по реагированию на нештатные ситуации.

Таким образом, юридическая наука и новое законодательство РФ солидарны в том, что сама нейросеть не может нести ответственность. Вся полнота юридических последствий за ошибки ИИ возлагается на его создателей, владельцев и операторов.

 

 

Как именно распределяется юридическая ответственность между разработчиком ИИ и конечным пользователем при совершении моделью критических ошибок?

На основе предоставленных источников вопрос распределения ответственности за ошибки и ущерб, причиненный системами искусственного интеллекта (ИИ), делится на три ключевых аспекта: базовый правовой статус ИИ, отраслевое регулирование физических объектов (на примере беспилотного транспорта) и ответственность в сфере больших фундаментальных моделей (БФМ).

1. Правовой статус ИИ: Субъект или Объект?

В рамках общей теории права и российской юридической практики ИИ рассматривается исключительно как инструмент:

• ИИ как объект: Искусственный интеллект не признается субъектом правоотношений, а определяется как объект (технологический инструмент, имитирующий когнитивные функции человека).
• Исключение уголовной и административной ответственности: ИИ не может быть признан субъектом правонарушения в его классическом понимании. К нему невозможно применить наказание, поскольку оно лишено для программы морально-этической оценки.
• Концепция «электронного лица»: В экспертном сообществе обсуждается возможность введения юридической фикции «электронного лица» для привлечения к гражданско-правовой ответственности. Однако это вопрос долгосрочной перспективы, требующий детальной проработки законодательства и механизмов контроля над действиями алгоритмов.
• Масштабирование ошибок: Юристы подчеркивают, что ключевая опасность ИИ заключается в его способности многократно масштабировать проблему ошибок.

2. Ответственность при эксплуатации физических систем (Беспилотный транспорт)

В законопроекте Минтранса «О высокоавтоматизированных транспортных средствах» реализован принцип детального разделения ответственности за ДТП между всеми участниками процесса:

• Производитель: несет ответственность, если авария произошла непосредственно из-за технического или программного сбоя автоматизированной системы вождения.
• Владелец беспилотника: признается виновным, если нарушил установленные правила эксплуатации (например, использовал машину вне допустимых условий либо самостоятельно внес критические изменения в ее конструкцию или программную систему).
• Сервисный центр: отвечает за последствия аварии, если она была вызвана некачественным ремонтом или халатным техническим обслуживанием транспортного средства.
• Оператор дистанционной поддержки: несет ответственность за неисполнение своих обязанностей по контролю движения и реагированию на нештатные ситуации. При этом закон прямо запрещает движение беспилотных машин без постоянного подключения к такому удаленному сервису поддержки.

3. Ответственность в сфере Больших Фундаментальных Моделей (БФМ) по ФЗ № 243-ФЗ

Новый Федеральный закон от 26 июля 2026 года № 243-ФЗ регулирует ответственность участников ИТ-рынка, разрабатывающих и внедряющих модели с объемом параметров более 1 миллиарда:

• Ответственность участников отношений: Согласно статье 11 закона, за любые нарушения правил разработки, внедрения и применения БФМ ответственность несут участники этих отношений (разработчики, провайдеры, эксплуатирующие организации) в рамках действующего законодательства РФ.
• Обязательные превентивные меры: Чтобы минимизировать риски ошибок, разработчики суверенных и национальных БФМ обязаны принимать технические меры безопасности, вести детальную техническую документацию для оценки рисков, а также составлять четкие правила и ограничения эксплуатации своих моделей.
• Страхование ответственности: Закон предоставляет разработчикам официальное право страховать свою гражданскую ответственность за причинение вреда третьим лицам при применении их ИИ-моделей.

 

Как работает механизм страхования ответственности разработчиков ИИ, предусмотренный новым законом № 243-ФЗ?

Механизм страхования ответственности разработчиков искусственного интеллекта в России регулируется в рамках поддержки ИТ-отрасли и направлен на минимизацию финансовых и юридических рисков компаний при создании и внедрении сложных алгоритмов.

На основе Федерального закона от 26 июля 2026 года № 243-ФЗ и сопутствующих материалов, данный механизм работает следующим образом:

1. Законодательное закрепление права на страхование

Согласно пункту 5 статьи 7 закона № 243-ФЗ, страхование признано официальной мерой поддержки для создателей суверенных и национальных больших фундаментальных моделей (БФМ). Разработчики наделены законодательным правом страховать:

• Имущественные интересы, непосредственно связанные с процессами проектирования, обучения, внедрения и последующего применения моделей.
• Гражданскую ответственность за непреднамеренное причинение вреда жизни, здоровью, деловой репутации или имуществу третьих лиц, возникшее в процессе работы и использования ИИ-систем.

2. Юридические рамки и регулирование

• Действие в рамках общего права: Страхование рисков и ответственности осуществляется в строгом соответствии с действующим законодательством Российской Федерации (ГК РФ и профильными законами о страховой деятельности).
• Защита субъектов ИТ-рынка: Поскольку сам искусственный интеллект законодательно признается исключительно объектом (инструментом), а не субъектом права, он не может нести деликтоспособность. Вся полнота юридической ответственности за его ошибки и сбои ложится на участников правоотношений (разработчиков, провайдеров, эксплуатантов). Страхование позволяет переложить эти финансовые обязательства перед пострадавшими лицами на страховую компанию.
• Защита от масштабирования ошибок: Эксперты подчеркивают, что ключевое свойство ИИ — способность мгновенно масштабировать проблему ошибок на миллионы пользователей. Наличие страхового полиса защищает ИТ-бизнес от банкротства в случае массового сбоя алгоритма.

3. Тестирование в «регуляторных песочницах»

Отдельные виды рисков, возникающие непосредственно в процессе создания и апробации экспериментального программного обеспечения на базе ИИ, могут страховаться по особым правилам. Для этого используются механизмы экспериментальных правовых режимов (ЭПР). Это позволяет страховым компаниям и разработчикам гибко тестировать страховые продукты в изолированных условиях («песочницах») до их массового вывода на коммерческий рынок.

 

 

Как именно распределяются риски между разработчиком БФМ и конечным корпоративным клиентом в случае, если ошибка модели привела к прямым финансовым убыткам клиента?

1. Распределение рисков между разработчиком БФМ и корпоративным клиентом при финансовых убытках

В предоставленных законодательных материалах нет детально прописанных обязательных схем или формул для распределения чисто коммерческих рисков (таких как упущенная выгода или недополученная прибыль) между разработчиком большой фундаментальной модели (БФМ) и его корпоративным заказчиком. Этот вопрос относится к сфере договорного права.

Тем не менее законодательство и правоприменительная практика устанавливают жесткие рамки для таких договоров:

• ИИ как инструмент (объект): В российской практике искусственный интеллект однозначно квалифицируется как объект правоотношений (инструмент), а не субъект. Программу невозможно привлечь к ответственности, так как к ней неприменимо наказание в его классическом, морально-этическом понимании. Вся ответственность распределяется исключительно между людьми и компаниями.
• Базовый принцип ответственности: Согласно статье 11 Федерального закона № 243-ФЗ, за любые нарушения правил разработки и применения БФМ участники этих отношений несут ответственность в соответствии с законодательством РФ.
• Разделение через правила эксплуатации: Чтобы обезопасить себя от исков корпоративных клиентов, разработчик БФМ обязан определить правила эксплуатации модели, зафиксировать ограничения, условия применения, обновления и вывода из эксплуатации. Если клиент нарушит эти установленные ограничения, ответственность за любые финансовые убытки будет полностью возложена на него.
• Механизм страхования: В качестве меры защиты бизнеса закон прямо разрешает разработчикам суверенных и национальных БФМ страховать гражданскую ответственность за причинение вреда третьим лицам при применении их моделей.

2. Распределение ответственности между разработчиком и пользователем при критических ошибках

Если критическая ошибка ИИ приводит к физическому ущербу или нарушению безопасности, закон уходит от абстрактной ответственности и вводит четкие разграничения.

А. В сфере беспилотного транспорта (Законопроект «О ВАТС»)

Наиболее детально механизм распределения ответственности прописан для высокоавтоматизированных транспортных средств:

1. Производитель (разработчик ИИ) несет полную ответственность, если критическая ошибка (ДТП) произошла непосредственно по вине автоматизированной системы вождения (программный сбой, некорректный алгоритм).
2. Владелец (конечный пользователь) признается виновным, если авария случилась из-за нарушения правил эксплуатации. К таким нарушениям относятся:
   • использование беспилотника вне предусмотренных для него условий;
   • самостоятельное внесение изменений в конструкцию автомобиля;
   • самостоятельное изменение программной системы управления.
3. Сервисный центр отвечает за последствия ошибок ИИ, если они были спровоцированы некачественным ремонтом или обслуживанием.
4. Оператор дистанционной поддержки несет ответственность, если ущерб возник из-за неисполнения им обязанностей по удаленному контролю и реагированию на нештатные ситуации. При этом беспилотникам запрещено двигаться без подключения к такому удаленному сервису.

Б. В сфере больших фундаментальных моделей (Закон № 243-ФЗ)

Для ИИ-моделей общего назначения распределение ответственности строится на соблюдении баланса обязанностей:

• Обязанности разработчика: Создатель БФМ обязан принять все организационные и технические меры по обеспечению безопасности модели, а также предоставить клиенту полную техническую документацию, описывающую её параметры и ограничения. Если разработчик скрыл критические ограничения модели, приведшие к ошибке, вина возлагается на него.
• Обязанности пользователя: Пользователь обязан строго следовать правилам эксплуатации, заданным разработчиком. Любое использование ИИ за рамками задокументированных ограничений снимает ответственность с разработчика и перекладывает её на пользователя.

 

 

 

 

 

 

 

 

Правительство представило концепцию по развитию искусственного интеллекта Новости Департаменты

• Департамент стратегического развития и инноваций

Приоритетные направления

• Федеральный проект «Искусственный интеллект»

26 сентября 2023

https://www.economy.gov.ru/material/news/

В ходе стратегической сессии под председательством премьер-министра Михаила Мишустина профильные ведомства предложили ряд мер для развития технологий искусственного интеллекта.

«Россия уже является сейчас де-факто и намерена продолжать быть страной с одним из самых благоприятных регуляторных режимов в мире для эффективного развития технологий с использованием искусственного интеллекта», – отметил заместитель Председателя Правительства Дмитрий Чернышенко.

Министр экономического развития Максим Решетников выделил три ключевые задачи:

• увеличение вычислительных мощностей,
• обеспечение отрасли кадрами,
• наращивание темпов внедрения искусственного интеллекта в отраслях.

«Для обеспечения отрасли вычислительными мощностями и инфраструктурой предлагаем на инвестиционной стадии запустить льготный кредит для закупки компонентов для суперкомпьютеров. При переходе к операционной фазе – снизить финансовую нагрузку на бизнес за счет ускоренной амортизации на оборудование», – сообщил Максим Решетников.

Он отметил, при получении доступа к вычислительным мощностям специалисты смогут создать не менее 3 общих и 10 отраслевых больших фундаментальных моделей.

Для кадрового обеспечения отрасли Решетников предложил сделать акцент на поддержке исследовательских центров. Повысить эффективность бюджетных затрат на науку. Поощрять стипендиями аспирантов, привлекать лучших мировых ученых из-за рубежа.

«Чтобы сбалансировать спрос и предложение, предлагаем субсидировать бизнесу затраты по внедрению ИИ. А также выделять гранты для доработки типовых решений вендоров под запрос конкретных отраслей. Необходимо расширять применение искусственного интеллекта и в системе госуправления», – добавил министр.

Для поддержки венчурного рынка Максим Решетников предложил использовать общесистемные меры поддержки стратинициативы «Взлет – от стартапа до IPO», которая реализуется под руководством первого вице-премьера Андрея Белоусова, и дополнить их. В частности, разрешить физическим лицам участвовать в инвестиционных товариществах, сократить налоговую нагрузку дна инвесторов, учитывать неудачные инвестиции при расчете налогов, а оценку финансового результата сделать портфельной.

Обсуждается и донастройка нормативной базы. Часть вопросов по развитию искусственного интеллекта предлагается решать в рамках Кодекса этики. Часть – под контролем государства. Министр обозначил крайне важной задачей разделить ответственность за использование технологии ИИ между пользователем и разработчиком.

Все созданные цифровые решения Максим Решетников предложил продвигать на рынки дружественных государств. Уже ведутся двусторонние переговоры с дружественными государствами ЕАЭС, ШОС, БРИКС о продвижении технологий.

В совещании также приняли участие министр цифрового развития, связи и массовых коммуникаций Максут Шадаев, министр науки и высшего образования Валерий Фальков, президент, председатель правления ПАО «Сбербанк» Герман Греф, заместитель министра промышленности и торговли Василий Шпак, представители профильных органов исполнительной власти, отрасли и образовательных учреждений.