Резолюция ЕС 2015/2013(INL)

Резолюция Европарламента от 16 февраля 2017 года 2015/2013(INL) P8_TA-PROV(2017)0051, включает текст Хартии робототехники

Скачать

Европарламент

2014-2019

Одобренный текст

Предварительное издание

P8_TA-PROV(2017)0051

Нормы гражданского права о робототехнике

Резолюция Европарламента от 16 февраля 2017 года. В резолюции приведены рекомендации для Европейской комиссии относительно норм гражданского права о робототехнике (2015/2013(INL))

 

Европарламент,

−принимая во внимание Статью 225 Договора о функционировании Европейского союза;

−принимая во внимание Директиву Совета ЕС 85/374/ЕЭС;

 −принимая во внимание Исследование этических аспектов киберфизических систем, проведенное по поручению комиссии Европейского парламента по оценке научных и технологических достижений (СТОА). Исследование было проведено и организовано научным подразделением по перспективному анализу (СТОА) и Исследовательским центром Европарламента;

−принимая во внимание положения 46 и 52 Парламентской Процедуры;

−принимая во внимание доклад Комитета по юридическим вопросам, а также мнение Комитета по транспорту и туризму, Комитета по гражданским свободам, правосудию и внутренним делам, Комитета по вопросам занятости и социальным вопросам, Комитета по окружающей среде, здравоохранению и пищевой безопасности, Комитета по вопросам промышленности, энергетики и научных исследований и Комитета по вопросам внутреннего рынка и защиты потребителей (A8-0005/2017),

Введение

A.принимая во внимание существование таких произведений, как “Франкенштейн” Мэри Шелли, классического мифа о Пигмалионе, легенды “Как раввин Лев создавал Голема” и, наконец, пьесы Карела Чапека “Россумские универсальные роботы” (благодаря которой и появилось новое слово “робот”), можно сделать вывод что люди всегда мечтали создавать разумные машины, причем человекоподобные;

B.принимая во внимание тот факт, что сегодня человечество находится на пороге эры куда более высокотехнологичных роботов, ботов, человекоподобных роботов и других устройств, в основу работы которых заложен искусственный интеллект (в дальнейшем «ИИ») и которые символизируют своим появлением начало новой промышленной революции (которая почти наверняка затронет все слои общества). Поэтому жизненно важно, чтобы установленные этические и правовые нормы не подавили развитие инноваций;

C.принимая во внимание существующую сегодня необходимость дать общепринятое определение понятиям «робот» и «искусственный интеллект», которое было бы универсальным и не затрудняло бы развитие инноваций;

D.принимая во внимание тот факт, что за период с 2010 по 2014 год среднее повышение уровня продаж роботов составляло 17% в год, а в 2014 уровень продаж вырос на рекордные 29%. Рост уровня продаж обеспечивался за счет электротехнической и электронной промышленности, а также поставщиков автомобильных компонентов. Количество заявлений на получение патентов, связанных с технологией робототехники, увеличилось втрое за последние десять лет;

E.принимая во внимание тот факт, что за последние 200 лет показатели занятости населения постоянно растут по причине научно-технического прогресса. Развитие робототехники и ИИ в перспективе может изменить жизнь людей и методы выполнения работ, повысить эффективность, сократить затраты и повысить уровень безопасности, обеспечить повышение качества услуг. Робототехника и ИИ могут повысить эффективность и сократить затраты не только в производстве и торговле, но и в таких сферах, как транспорт, здравоохранение, спасательные операции, образование и сельское хозяйство. Они позволят избежать необходимости работать в условиях, угрожающих жизни и здоровью людей (таких как, например, как очистка территорий от ядовитых заражений);

F.принимая во внимание тот факт, что старение населения является результатом возросшей продолжительности жизни, которая, в свою очередь, является результатом улучшения условий жизни и достижений в области медицины. При этом старение населения является одной из самых больших политических, социальных и экономических проблем 21-го века для Европейских государств. К 2025 году более 20% населения Европы достигнут возраста 65 и более лет. Кроме того, к этому времени стремительно возрастет количество людей в возрасте от 80 и старше, что кардинально изменит существующий сегодня баланс между поколениями нашего общества. При этом общество заинтересовано в том, чтобы пожилые люди как можно дольше оставались здоровыми и вели активный образ жизни;

G.принимая во внимание тот факт, что существующая сегодня тенденция разработки умных и автономных машин, способных обучаться и самостоятельно принимать решения, в перспективе влечет за собой не только экономическую выгоду, но и ряд вопросов, связанных с прямым и косвенным влиянием таких машин на общество в целом;

H.принимая во внимание тот факт, что способность машин обучаться имеет огромное количество преимуществ для общества с точки зрения экономики и инноваций. Они позволят кардинально улучшить способность анализировать информацию. В то же время способность машин обучаться влечет за собой проблемы в области обеспечения недискриминации, соблюдения надлежащей правовой процедуры, обеспечения прозрачности и понятности процессов принятия решения;

I.принимая во внимание необходимость дать оценку анализу экономических изменений и изменений в области занятости населения, как явлениям, возникшим по причине существования робототехники и способности машин обучаться. Несмотря на то, что робототехника имеет ряд очевидных преимуществ которые невозможно отрицать, ее внедрение может повлечь за собой изменения на рынке труда. Следовательно, в будущем может возникнуть необходимость внести соответствующие изменения в систему образования, трудоустройства и социальную политику;

J.принимая во внимание тот факт, что широкое использование робототехники не означает полную замену персонала умными машинами. Автоматизации подвергнутся только те рабочие процессы, которые требуют больших трудозатрат и специальные навыки в которых не требуются. Эта тенденция может способствовать возрождению собственного производства в ЕС. Согласно результатам исследований, уровень занятости в тех сферах, где широко применяются компьютеры и подобные им устройства, растет быстрее. Автоматизация рабочих процессов позволит избавить людей от необходимости выполнять монотонную работу вручную. Следовательно, они смогут уделять время более творческим и осмысленным задачам. Автоматизация рабочих процессов предполагает, что правительство будет инвестировать в систему обучения и проводить реформы с целью обеспечить людей новыми навыками, которые им понадобятся для работы в будущем;

K.принимая во внимание тот факт, что увеличивается разделение между слоями общества; уменьшается количество людей, которых можно отнести к среднему классу. Следовательно, очень важно учесть тот факт, что развитие робототехники может привести к концентрации богатства и власти у небольшой группы людей;

L.принимая во внимание, что развитие робототехники и ИИ определенно окажет влияние на рабочие процессы и обстановку. В связи с этим, одни проблемы правовой ответственности будут устранены, а другие появятся. На случай возникновения каких-либо проблем или чрезвычайных ситуаций должна быть предусмотрена правовая ответственность, учитывающая позиции и работодателей, и работников.

M.принимая во внимание, что тенденция автоматизации рабочих процессов обязывает людей, связанных с процессами разработки и коммерческого использования устройств с ИИ, с самого начала задуматься над проблемами этики и безопасности. Таким образом, им следует учитывать, что они должны быть готовы нести юридическую ответственность за качество своих разработок;

N.принимая во внимание, что Регламент ЕС 2016/679 Европарламента и Совета ЕС (Общие правила защиты информации) устанавливает правовую основу для защиты персональных данных. В то же время могут возникнуть новые вопросы безопасности доступа к информации и защите персональных данных в связи с использованием программ и оборудования, которые функционируют друг с другом и имеют доступ к базам данных без вмешательства человека;

O.принимая во внимание, что разработки в сфере робототехники и ИИ должны учитывать права на уважение человеческого достоинства, на самостоятельность и право на самоопределение любого индивида. В первую очередь это касается заботы о человеке, а также медицинского оборудования, которое «восстанавливает» или дополняет человеческое существо;

P.принимая во внимание, что в перспективе возможности ИИ в конечном счете могут превзойти интеллектуальные способности человека;

Q.принимая во внимание, что дальнейшее развитие и повсеместное использование в будущем автоматических машин и машин, принимающих решение в соответствии с заложенным в них алгоритмом, несомненно, будет влиять на решения, принимаемые частными лицами (например, предпринимателями или интернет пользователями). То же самое относится к административным, судебным или любым другим органами государственной власти, принимающим окончательные решения по вопросам, связанным с защитой потребителей, коммерческой или административной деятельности. Следует принять во внимание необходимость обеспечения безопасности и возможности контролировать и верифицировать процессы, связанные с автоматическим принятием решений;

R.принимая во внимание, что в некоторых иностранных юрисдикциях (США, Япония, Китай, Южная Корея) уже рассматривается вопрос о принятии мер со стороны контролирующих органов в отношении робототехники и ИИ; ряд мер уже предпринят. При этом в некоторых странах-членах ЕС также уже рассматривается вопрос о введении правовых стандартов или внесении изменений в существующее законодательство с тем, чтобы они учитывали быстрое внедрение новых технологий;

S.принимая во внимание, что для Европейской промышленности может быть выгодно существование эффективного, прозрачного и единообразного подхода к созданию нормативных правовых актов в соответствии с Европейскими стандартами. Таким образом, можно будет создать предсказуемые и понятные условия, на основе которых предприниматели будут реализовывать свои разработки и строить бизнес-модели во всеевропейском масштабе. В то же время ЕС и страны-члены ЕС будут иметь контроль над этими правилами; это позволит избежать ситуаций, когда страны будут вынуждены следовать стандартам, которые установлены третьими лицами - например, государствами, которые также находятся в авангарде разработок робототехники и ИИ;

 Общие положения 

T.принимая во внимание, что три закона робототехники Азимова должны интерпретироваться как адресованные разработчикам, производителям и операторам роботов, включая тех роботов, в которых заложена способность к самообучаемости и автономному функционированию. Эта связано с тем, что данные законы невозможно перевести в машинный код;

U.принимая во внимание необходимость и пользу от правил, которые регулировали бы, в частности, вопросы ответственность, прозрачности и подотчетности, а также отражали бы европейские и всеобщие гуманистические ценности, которые являются вкладом Европы в общество. Следует принять во внимание, что такие правила не должны влиять на процессы исследований, инноваций и развития в сфере робототехники;

V.принимая во внимание, что ЕС может сыграть ключевую роль в формировании базовых принципов этики в отношении разработки, программирования и использования роботов и ИИ, а также в процессе интеграции этих принципов в нормативные правовые акты в ЕС и правила поведения. Главной целью является создание таких принципов, согласно которым технологическая революция будет приносить пользу человечеству, а продвинутыми технологиями робототехники и ИИ сможет пользоваться как можно больше людей. В то же время они должны позволять, насколько это возможно, избегать потенциальных ошибок.

W.принимая во внимание, что к данной резолюции приложена Хартия Робототехники, которая была составлена научным подразделением по перспективному анализу (СТОА) и Исследовательским центром Европарламента. В этом документе предлагается кодекс этических норм разработчиков в сфере робототехники, кодекс для комитетов по этике научных исследований, лицензии для разработчиков и для пользователей;

X.принимая во внимание, что ЕС должен следовать принципам постепенного, прагматичного и осторожного подхода, который был предложен Жаном Монне, по отношению к будущим инициативам в сферах робототехники и ИИ. Это необходимо, чтобы не подавить инновационные процессы;

Y.принимая во внимание, что в связи с достигнутым уровнем развития робототехники и ИИ необходимо уделить внимание вопросам гражданско-правовой ответственности;

Ответственность

Z.принимая во внимание, что благодаря впечатляющему развитию технологий за последние 10 лет современные роботы способны выполнять работу, которую раньше могли выполнять только люди. Более того, благодаря развитию конкретного функционала, позволяющего роботам действовать автономно и осуществлять когнитивные процессы (например, способность роботов обучаться на своем опыте и принимать квазинезависимые решения), роботы все больше и больше становятся похожи на агентов, которые могут взаимодействовать со своей средой и вносить в нее значительные изменения. В таком контексте одним из важнейших вопросов становится вопрос о правовой ответственности за вред, причиненный действием робота;

AA.принимая во внимание, что автономность робота можно определить как его способность принимать решения и реализовывать их самостоятельно, без внешнего контроля или воздействия. Автономность робота носит чисто технический характер и ее степень зависит от того, насколько хорошо робот запрограммирован взаимодействовать с окружающей средой своим разработчиком;

AB.принимая во внимание, что чем выше степень автономности робота, тем меньше робот может расцениваться как простой инструмент в руках третьих лиц (производителя, оператора, владельца, пользователя и т.д.). Это положение, в свою очередь, поднимает вопрос о том, являются ли достаточными обычные правила правовой ответственности. Следует ли разработать новые принципы и правила, которые бы вносили больше ясности относительно правовой ответственности третьих лиц за действия и бездействие роботов, которые не позволяют установить причинно-следственной связи с поведением конкретного человека. Наконец, было ли возможно избежать действий или бездействий роботов, в результате которых причинен вред;

AC.принимая во внимание, что в контексте автономности роботов возникает вопрос об их правовой природе; может ли она находиться в рамках существующих правовых категорий, или же нужно создать новую категорию, которая будет иметь свой собственный ряд характеристик и положений;

AD.принимая во внимание, что в существующих правовых рамках роботы сами по себе не могут нести ответственность за действия или бездействие, по причине которых был нанесен вред третьим лицам. Существующими правилами наступления ответственности предусмотрены случаи, когда действия или бездействия роботов находятся в причинно-следственной связи с действиями или бездействием конкретных лиц, например, производителей, операторов, владельцев или пользователей, и они могли предвидеть и избежать поведения роботов, в результате которого был нанесен урон. Помимо этого производители, операторы, владельцы или пользователи могут быть привлечены к объективной ответственности (независимой от наличия вины) за действия или бездействие роботов;

AE.принимая во внимание, что к причиненному роботами или ИИ вреду применяются существующие правовые нормы, во-первых, об ответственности за качество и безопасность товаров, согласно которым производитель несет ответственность за любые неисправности, а также, во-вторых, об ответственности за вредоносные действия, согласно которым пользователь продукта несет ответственность за поведение, повлекшее за собой возникновение вреда;

AF.принимая во внимание, что стандартных правил наступления ответственности недостаточно в случаях, когда урон был нанесен по причине решений, которые робот принимает самостоятельно. В данных случаях будет невозможно определить третью сторону, которая обязана выплатить компенсацию и возместить причиненный ею ущерб;

AG.принимая во внимание, что недостатки существующего правового регулирования также отчетливо проявляются в сфере договорной ответственности. Если машины будут разработаны так, что они сами могут выбирать своих контрагентов, обсуждать условия договоров, заключать договоры и решать, как их исполнять, то обычные правила не будут к ним применимы. Это обозначает необходимость создания новых, эффективных и современных правил, которые будут учитывать технологическое развитие и инновации, внедрение и использование которых произошло недавно;

AH.принимая во внимание, что применительно к ответственности, вытекающей из внедоговорных обязательств, Директива Совета ЕС 85/374/ЕЭС распространяется только на ущерб, нанесенный по причине производственных дефектов робота и при условии, что пострадавшая сторона может доказать факт нанесения ущерба, наличие дефекта и причинно-следственную связь между ними. Следовательно, положений об объективной или безвиновной ответственности может быть недостаточно;

AI.принимая во внимание, что, несмотря на положения, указанные в Директиве Совета ЕС 85/374/ЕЭС, существующее правовое регулирование может не учитывать случаи нанесения ущерба роботами нового поколения. В частности, оно не учитывает, что роботы нового поколения могут быть способны адаптироваться и обучаться. Такие способности делают невозможным с определенной точностью предсказать поведение роботов, так как такие роботы будут самообучаться, основываясь на собственном опыте, а их взаимодействие со средой будет уникально и непредсказуемо;

Общие положения, касающиеся развития робототехники и искусственного интеллекта для гражданских нужд

1.Призывает Комиссию ЕС предложить общепринятые и универсальные определения терминов «киберфизические системы», «автономные системы», «умные автономные роботы», а также их подкатегорий. При этом необходимо учитывать следующие характеристики умного робота:−способность становиться автономным, используя сенсоры и/или обмениваясь данными со своей средой (совместимость), способность обмениваться этими данными и анализировать их; −способность самообучаться на основе приобретенного опыта и при взаимодействии (опциональный критерий);−наличие по меньшей мере минимальной физической поддержки;−способность адаптировать свои действия и поведение в соответствии с условиями среды;−отсутствие жизни с биологической точки зрения;

2.Полагает, что существует необходимость в создании общепринятой Европейской системы регистрации продвинутых роботов на внутреннем рынке ЕС, которая могла бы применяться к определенным категориям роботов. В связи с этим, Комиссии ЕС необходимо разработать критерии классификации подлежащих регистрации роботов. В данном контексте Комиссии ЕС необходимо установить, будет ли целесообразно поручить процесс регистрации и управления системой регистрации специализированному Агентству ЕС по робототехнике и искусственному интеллекту;

3.Подчеркивает, что технологии робототехники должны разрабатываться только с целью дополнить возможности человека, а не для того, чтобы заменить его. Очень важно, чтобы разработчики робототехники и ИИ гарантировали, что человек в любое время сможет контролировать умные машины. Необходимо уделить особое внимание возможному возникновению эмоциональной взаимосвязи между людьми и роботами, в частности, между роботами и группами физически и эмоционально уязвимых людей (детей, людей преклонного возраста и людей с ограниченными физическими возможностями); особым вопросом будет являться серьезное влияние физического или эмоционального характера, которому могут быть подвергнуты люди по причине подобной взаимосвязи;

4.Подчеркивает, что общеевропейский подход может способствовать развитию робототехники, поскольку позволит избежать разделения внутреннего рынка. Одновременно с этим, необходимо отметить важность принципа взаимного признания в вопросе о международном использовании роботов и систем робототехники. Необходимо также напомнить о том, что тестирование, сертификация и выпуска товара в обращение должны первоначально требоваться только лишь в какой-то одной стране из общего числа стран-членов ЕС. Такой подход должен использоваться наряду с методом эффективного наблюдения за рынком;

5.Подчеркивает важность мер помощи недавно созданным компаниям (стартапам), а также малым и средним предприятиям сектора робототехники, которые либо создают новые рыночные сегменты в данном секторе, либо используют роботов;

Исследования и инновации

6.Подчеркивает, что большинство разработок в сфере робототехники все еще носят экспериментальный характер. Следует приветствовать тот факт, что все больше и больше проектов спонсируется ЕС и странами-членами ЕС. Очень важно, чтобы ЕС и страны-члены ЕС посредством государственного финансирования оставались одним из лидеров исследований в сфере ИИ и робототехники. Комиссии ЕС и странам-членам ЕС необходимо улучшить финансовые инструменты, позволяющие проводить исследования в сфере робототехники и ИКТ [Информационные и Коммуникационные Технологии – прим.пер], включая государственно-частные партнерства. В политики проведения исследований необходимо включить принципы «Открытой науки» и этически ответственного подхода к инновациям. Необходимо выделять достаточные ресурсы для поиска решений социальных, правовых, этических и экономических проблем, которые возникают в связи с научно-техническим прогрессом.

7.Призывает Комиссию ЕС и страны-члены ЕС стимулировать исследовательские программы; как можно раньше выявить возможные долгосрочные риски, связанные с робототехникой и ИИ, а также возможности этих технологий. Кроме того, Европарламент призывает как можно скорее инициировать публичные обсуждения последствий развития этих технологий. Комиссии ЕС при промежуточной переоценке многолетней программы финансирования «Горизонт 2020» рекомендуется увеличить финансовую поддержку проекта SPARC. Комиссии ЕС и странам-членам ЕС необходимо прилагать совместные усилия для того, чтобы внимательно отслеживать и обеспечить постепенный переход от стадии исследований к стадии коммерциализации данных технологий и их использования на рынке. Однако, согласно принципу предосторожности, этому должны предшествовать необходимые испытания безопасности;

8.Подчеркивает, что инновации в робототехнике и ИИ и их интеграция в экономику и общество предполагают существование повсеместной цифровой инфраструктуры. Комиссии ЕС необходимо создать систему, которая будет отвечать требованиям, связанным с цифровым будущим ЕС. Кроме того, необходимо убедиться в том, что доступ к высокоскоростным каналам и сетям 5G полностью соответствует принципу сетевого нейтралитета;

9.Глубоко убежден в том, что совместимость систем, устройств и облачных сервисов, которая строится на принципах конфиденциальности и безопасности, является необходимым условием для передачи и обмена данными в режиме реального времени, и позволит роботам и ИИ быть более автономными и гибкими. Комиссии ЕС рекомендуется поддерживать и поощрять открытую среду во всем, начиная от открытых стандартов и инновационных моделей лицензирования, и заканчивая открытыми платформами и прозрачностью. Таким образом, можно избежать ситуаций, когда нахождение систем в частной собственности препятствует их совместимости.

Этические принципы

10.Отмечает, что преимуществам расширения возможностей людей при помощи использования робототехники сопутствует ряд противоречий или рисков, которые должны быть подвергнуты более серьезной оценке с точки зрения здоровья, безопасности и защищенности человека; с точки зрения свободы, конфиденциальности, неприкосновенности и уважения человеческого достоинства, самоопределения, недискриминации и защиты личных данных;

11.Учитывает, что существующие в ЕС рамки правового регулирования должны быть обновлены и дополнены так, чтобы этические принципы учитывали сложность робототехники в ее социальных, биоэтических и медицинских проявлениях. Понятная, строгая и эффективная система этических принципов является необходимым условием развития, разработки, производства, использования и модификации роботов. Такая система станет дополнением к рекомендациям к докладу и существующему законодательству, принятому на национальном уровне и уровне ЕС. В приложении к Резолюции приведены кодекс этики для разработчиков робототехники, кодекс для комитетов по этике научных исследований, которые будут анализировать протоколы робототехники, а также модельные лицензии для разработчиков и пользователей;

12.Обращает внимание на принцип прозрачности, в том контексте, что любому принятому с помощью ИИ решению, которое повлияет на жизнь одного или более людей, всегда должно быть обеспечено рациональное объяснение. Необходимо, чтобы выполненные системами с ИИ операции всегда можно было изложить в форме, понятной человеку. Необходимо оборудовать продвинутых роботов «черным ящиком», который будет записывать данные о каждой совершенной операции, а также логику рассуждений, по которым машина приняла те или иные решения;

13.Подчеркивает, что система руководящих этических принципов должна быть основана на принципах «делай благо» и «не навреди», а также на принципах автономности и справедливости, принципах и ценностях, указанных в Статье 2 Договора о Европейском Союзе и Хартии по правам человека (таким как уважение человеческого достоинства, равноправие, справедливость, недискриминация, право на информированное согласие, неприкосновенность частной и семейной жизни, право на защиту данных). Кроме того, должны учитываться и другие принципы и ценности ЕС, такие как недопустимость стигматизации, прозрачность, самостоятельность, индивидуальная и социальная ответственность, а также существующие этические кодексы и правила;

14.Полагает, что необходимо уделить особое внимание тем роботам, которые могут быть значительной угрозой конфиденциальности, поскольку они используются в защищенных и частных сферах жизни и способны извлекать и пересылать личные и конфиденциальные данные;

Европейское агентство

15.Убежден, что расширенное сотрудничество между Комиссией ЕС и странами-членами ЕС является необходимым условием установления в ЕС единых трансграничных правил; эти правила будут поощрять сотрудничество между промышленными секторами разных стран и обеспечат внедрение в ЕС роботов, соответствующих установленным стандартам безопасности, а также отвечающих этическим принципам, отраженным в законодательстве ЕС;

16.Просит Комиссию ЕС рассмотреть возможность создания Агентства ЕС по робототехнике и искусственному интеллекту, которое являлось бы специализированным органом, обладающими компетенциями в технических, этических и регуляторных вопросах. Агентство должно обеспечить необходимую поддержку государственным органам ЕС и стран-членов ЕС, в своевременной, адекватной и соответствующей установленным этическим нормам реакции на новые возможности и проблемы, возникающих в связи с робототехникой и ИИ. В особенности это касается возможностей и проблем трансграничного характера, такими, например, как в транспортном секторе;

17.Полагает, что потенциал развития и проблемы, связанные с использованием робототехники, а также существующая динамика инвестирования в эту отрасль подтверждают обоснованность выделения Европейскому агентству адекватного бюджета. Его сотрудниками должны стать специалисты в вопросах государственного управления, а также внешние технические специалисты и эксперты по вопросам этики, которые будут отслеживать использование робототехники в разных секторах и отраслях. Помимо этого, его специалисты будут заниматься разработкой стандартов лучших практик, указывать на необходимость принятия мер государственного регулирования, определять новые принципы и рассматривать потенциальные проблемы, связанные с защитой потребителей, а также иные постоянно возникающие вопросы. Комиссии ЕС (и Европейскому агентству, если оно будет создано) следует на ежегодной основе докладывать Европарламенту о последних разработках в сфере робототехники и любых действиях, которые необходимо предпринять;

Права интеллектуальной собственности и поток данных

18.Отмечает, что в данный момент не существует специальных правовых норм, регулирующих робототехнику. Существующая система правового регулирования в целом может быть применена и к робототехнике, однако при этом некоторые аспекты потребуют отдельного осмысления. Комиссии ЕС необходимо поддержать разработку горизонтального, нейтрального с точки зрения технологий подхода к правам интеллектуальной собственности, действующим в отраслях, где потенциально могут быть внедрены технологии робототехники;

19.Призывает Комиссию ЕС и страны-члены ЕС убедиться в том, что гражданско-правовое регулирование сектора робототехники не будет противоречить Общим правилам защиты информации, а также принципам пропорциональности и необходимости. Комиссии ЕС и странам-членам ЕС необходимо принять во внимание стремительную технологическую эволюцию в сфере робототехники, включая развитие киберфизических систем. Следовательно, необходимо убедиться в том, что законодательство ЕС отвечает скорости технологического развития и внедрения технологий;

20.Особо подчеркивает, что права человека на неприкосновенность частной жизни и защиту персональных данных, указанные в Статьях 7 и 8 Хартии по правам человека, а также в Статье 16 Договора о функционировании Европейского Союза (ДФЕС), применяются во всех сферах робототехники наравне с регуляторными нормами ЕС о защите данных. В связи с этим реализация Общих правил защиты информации требует создания более четких правила и критериев в отношении использования камер и сенсоров в роботах. Комиссии ЕС необходимо убедиться в соблюдении принципа защиты данных (например, принципы «проектируемая конфиденциальность» и «конфиденциальность по умолчанию», принцип минимизации данных, принцип ограниченного назначения), а также принципа прозрачного механизма организации контроля субъектов персональных данных и адекватных способов их защиты в соответствии с законодательством ЕС о защите данных. Кроме того, необходимо убедиться в разработке соответствующих этим принципам рекомендаций и стандартов и их последующей интеграции в законодательство ЕС;

21.Подчеркивает, что свободное движение информации имеет огромное значение для цифровой экономики и развития сектора робототехники и ИИ. Ключевую роль для адекватного использования роботов и ИИ играет высокий уровень защиты данных в системах робототехники, включая их внутренние системы данных и поток данных. Необходимо убедиться в защищенности сетей взаимосвязанных роботов и ИИ для того, чтобы избежать возможных случаев неавторизованного доступа. Особую важность имеет организация высокого уровня защиты и безопасности личных данных наряду с сохранением конфиденциальности в процессе взаимодействия между роботами, людьми и ИИ. Необходимо также отметить ответственность разработчиков в сфере робототехники и ИИ. Разрабатываемые ими продукты должны функционировать согласно их назначению, быть безопасными и защищенными. Комиссии ЕС и странам-членам ЕС необходимо поддерживать и стимулировать развитие необходимых технологий, включая технологии, позволяющие следовать принципу «проектируемая конфиденциальность».

Стандартизация, безопасность и защищенность

22.Подчеркивает, что особое внимание следует уделить вопросу разработки стандартов и обеспечения совместимости, так как они являются ключевыми элементами для будущих разработок в сфере ИИ и технологий робототехники. Комиссии ЕС необходимо продолжать работу над гармонизацией международных технических стандартов. В частности, необходимо продолжать сотрудничать с Европейскими организациями по стандартизации и Международной организаций по стандартизации, чтобы поощрять инновации, избежать разделения внутреннего рынка и гарантировать высокий уровень безопасности товаров и защиты потребителей. Если это необходимо, нужно разработать минимальные стандарты безопасности на рабочих местах. Нужно отметить важность законного осуществления обратного проектирования и открытых стандартов. Это необходимо, чтобы максимально увеличить объем инноваций и обеспечить взаимодействие роботов друг с другом. В этом отношении следует приветствовать создание специальных технических комитетов, например, комитета ISO/TC 299 по Робототехнике, посвященных исключительно разработке стандартов для робототехники;

23.Подчеркивает, что тестирование роботов в реальных жизненных ситуациях является процессом первостепенной важности, поскольку тестирование позволяет обнаружить и оценить риски, которые связаны с роботами, уже прошедшими стадию лабораторных экспериментов. В данном контексте необходимо отметить, что тестирование роботов в реальных жизненных ситуациях (в частности, в городах и на дорогах) влечет за собой определенные проблемы. Например, могут существовать определенные барьеры, которые тормозят развитие тестируемых технологий, для преодоления которых необходимы создание эффективной стратегии и механизма наблюдения. Комиссии ЕС необходимо разработать универсальные критерии, которые будут действовать на территории всех стран-членов ЕС. В соответствии с принципом предосторожности, каждая отдельная страна-член ЕС будет использовать данные критерии для определения места проведения тестирования роботов.

Автономные транспортные средства

a) Автономные автомобили

24.Подчеркивает, что в список автономных транспортных средств входят все виды дорожного, железнодорожного, воздушного и водного транспорта, управляемые дистанционно, являющиеся автоматическими, автономными и оснащенными средством связи. Список включает в себя автомобили, поезда, корабли, паромы, самолеты и дроны, а также любые виды будущих разработок и инноваций в данном секторе.

25.Полагает, что автомобильный сектор наиболее всего нуждается в разработке эффективных правил как на уровне ЕС, так и в глобальном отношении. Эти правила должны обеспечить трансграничное развитие автоматических и автономных автомобилей и позволить полностью раскрыть экономический потенциал подобных транспортных средств, а также извлечь максимальную пользу из тенденций развития технологий в данной сфере. Напротив, отсутствие комплексного подхода к регулированию в данном секторе замедлит внедрение автономных транспортных систем и подвергнет опасности Европейский рынок;

26.Обращает внимание на тот факт, что водителю подобных транспортных средств чрезвычайно важно иметь возможность максимально быстро взять в свои руки контроль над автомобилем в те моменты, когда это необходимо. В связи с этим, разработчики должны реалистично подходить к решениям проблем безопасности и ответственности;

27.Придерживается мнения, что повсеместное использование автономных автомобилей окажет влияние на следующие сферы: гражданско-правовая ответственность (вопросы ответственности и страхования), безопасность на дорогах, все сферы, связанные с окружающей средой (например, энергоэффективность, использование технологий возобновляемых источников энергии). Кроме того, возникнут вопросы, связанные с информацией (например, доступ и защитf информации, конфиденциальность и обмен данными), вопросы, связанные с инфраструктурой ИКТ (например, организация надежных каналов связи с высокой плотностью трафика) и трудовой деятельностью (например, сокращение рабочих мест и создание новых, обучение водителей грузовых автомобилей вождению автоматического транспорта). Необходимо обратить внимание на тот факт, что потребуются значительные инвестиции в сферу ИКТ, дорожную инфраструктуру и энергетику. Комиссии ЕС необходимо учесть все вышеуказанное при принятии решений, связанных с автономными автомобилями;

28.Подчеркивает, что крайне важным условием внедрения автономных автомобилей является возможность получать информацию о точном местоположении и времени, которую будут предоставлять Европейские системы спутниковой навигации «Галилео» и EGNOS (Европейская геостационарная служба навигационного покрытия). В связи с этим, следует закончить разработки и осуществить запуск спутников, необходимых для завершения работ по созданию Европейской системы определения местоположения «Галилео».

29.Обращает внимание на то, что автономные автомобили должны существенно улучшить качество жизни людей с ограниченными физическими возможностями. Автономные автомобили могут использоваться как индивидуальное транспортное средство, что позволит людям с ограниченными возможностями быть более мобильными;

b) Дроны (удаленно пилотируемые воздушные системы)

30.Признает значительные преимущества, которые дает технология дронов, особенно в сфере проведения поисков и спасательных операций. В то же время нужно подчеркнуть необходимость разработки нормативных актов для дронов на уровне ЕС, чтобы обеспечить защищенность, безопасность и соблюдение конфиденциальности граждан ЕС. Комиссии ЕС необходимо следовать рекомендациям Европарламента, обозначенным в резолюции от 29 октября 2015 года о безопасном использовании удаленно пилотируемых воздушных систем (УПВС), также известных как беспилотные летательные аппараты (БЛА), в сфере гражданской авиации ; Комиссии ЕС необходимо проанализировать проблемы безопасности, возникшие в связи с широким использованием дронов. Комиссии ЕС необходимо установить, существует ли необходимость введения обязательной системы отслеживания и обнаружения УПВС, которая позволит отслеживать любое их перемещение в режиме реального времени. Необходимо напомнить о том, что безопасность и единообразие БЛА гарантируется за счет мер, указанных в Регламенте Европейского Парламента и Совета Европейского Союза 216/2008 ;

Роботы по уходу

31.Подчеркивает, что с течением времени исследования и производство роботов по уходу за престарелыми людьми стали более востребованными и менее затратными. Производимые сегодня роботы подобного плана имеют улучшенный функционал и являются более востребованными у потребителей. Необходимо отметить широкую область применения данных роботов. Они помогают престарелым людям, людям с ограниченными физическими возможностями, психическими или когнитивными расстройствами, а также людям, страдающим потерей памяти. Роботы могут оказать помощь, присмотреть за больным, составить ему компанию или защитить от опасных ситуаций.

32.Отмечает, что живое общение является одним из фундаментальных аспектов процесса ухода за человеком. По этой причине, полная замена живых людей роботами может иметь отрицательный эффект. В то же время, роботы вполне могут выполнять рутинные задачи, возникающие в процессе ухода, и таким образом облегчить работу ассистентов по уходу. Дополнение человеческой заботы технологиями робототехники позволит сделать процесс реабилитации более целенаправленным. Кроме того, у врачей и ассистентов по уходу будет больше времени для проведения диагностирования и планирования лучшей системы ухода. Необходимо отметить, что, несмотря на то, что роботы помогут людям в преклонном возрасте и людям с ограниченными физическими возможностями быть более мобильными и участвовать в жизни общества, участие человека в процессе ухода все равно будет необходимым; оно продолжает оставаться важным и незаменимым источником социального общения;

Медицинские роботы

33.Подчеркивает важность соответствующего образования, подготовки и обучения врачей и медицинского персонала с тем, чтобы обеспечить их высочайшую профессиональную компетенцию и защиту жизни пациентов. Необходимо также отметить важность разработки минимальных профессиональных требований для хирургов, которым разрешается использовать хирургических роботов в ходе операций. Жизненно важно соблюдать принцип контролируемой автономности роботов; планирование лечения и окончательное решение по его реализации должно всегда оставаться за врачом-хирургом. Необходимо уделить особое внимание вопросу обучения пользователей, чтобы они знали основные технологические требования в этой сфере. Необходимо отметить растущую тенденцию использования мобильных роботов для самодиагностики и, соответственно, необходимость обучать врачей работе с такими ситуациями. Подобные технологии никоим образом не должно оказать негативного эффекта на отношения доктора и пациента; они должны использоваться в качестве дополнительной помощи в процессе диагностирования и лечения пациентов, с целью сократить риск человеческих ошибок и повысить качество и продолжительность жизни пациентов;

34.Убежден, что использование роботов в медицине для выполнения рутинных задач и обеспечения высокого уровня точности при проведении операций только набирает обороты. В перспективе подобные роботы могут улучшить результаты реабилитации пациентов и очень эффективного решения логистических задач в больницах. Необходимо отметить, что медицинские роботы также могут снизить стоимость расходов на здравоохранение, поскольку они позволяют больше внимания уделять не лечению, а предотвращению наступления болезней. Соответственно, большие бюджетные ресурсы могут быть выделены на различные нужды пациентов, исследования и повышение квалификации врачей и медперсонала;

35.Призывает Комиссию ЕС убедиться в том, что до вступления в силу Регламента о медицинских устройствах процедуры тестирования новых медицинских роботизированных устройств не будут нести опасности, особенно когда речь идет о внедрении имплантов в человеческое тело;

Восстановление и совершенствование организма человека

36.Отмечает огромную пользу и будущие перспективы робототехники в сфере восстановления и замещения поврежденных органов и функций человеческого организма. В то же время совершенствование организма при помощи роботов влечет за собой ряд серьезных проблем, поскольку медицинские роботы и, в частности, киберфизические системы могут изменить наше представление о здоровом организме человека: они могут постоянно находиться на теле или быть имплантированы в организм. Нужно подчеркнуть необходимость скорейшего создания в больницах и других учреждениях здравоохранения комитетов по робоэтике с привлечением к работе соответствующих экспертов. Задачей подобных комитетов будет рассмотрение, оценка и поиск решений в случае возникновения нестандартных, сложных этических проблем, которые влияют на оказание медицинской помощи и лечение пациентов. Комиссии ЕС и странам-членам ЕС необходимо разработать руководства, которые способствовали бы созданию и функционированию подобных комитетов;

37.Отмечает, что в сфере использования жизненно важных медицинских роботов (таких, как роботизированные протезы) должны быть обеспечены постоянная и надежная техническая поддержка и обслуживание, а также улучшения и, в частности, обновления программного обеспечения, исправляющие все уязвимости и недоработки;

38.Рекомендует создать независимые доверенные организации, которые смогут обеспечивать сохранение работоспособности носимых человеком жизненно важных продвинутых медицинских устройств. Речь, в частности, идет об осуществлении технического обслуживания, ремонте и модификации, в том числе обновлении программного обеспечения. Подобные услуги будут особенно актуальны в тех случаях, когда их может перестать оказывать сам поставщик устройств. Соответственно, по аналогии с предоставлением обязательного экземпляра публикации в национальную библиотеку, необходимо обязать производителей предоставлять независимым доверенным организациям актуальную информацию о производимых ими устройствах, включая исходный код;

39.Обращает внимание на риски, связанные с киберфизическими системами, имплантированными в организм человека. Они могут подвергнуться взлому, их могут выключить, все записанные в них данные могут быть уничтожены. Поскольку в подобных ситуациях может иметь место опасность для здоровья или даже жизни человека, приоритетной задачей должна быть защита этих систем;

40.Подчеркивает, что подобные устройства, оборудование и инновационные продукты должны быть в равной степени доступны каждому пациенту. В соответствии со Статьей 4 Конвенции ООН о правах инвалидов, участником которой является ЕС, Комиссии ЕС и странам-членам ЕС необходимо стимулировать развитие технологий по уходу и их внедрение для тех, кто в них нуждается;

Образование и трудовая деятельность

41.Обращает внимание на прогноз Комиссии ЕС, согласно которому к 2020 году в Европе может наблюдаться дефицит специалистов сферы ИКТ (нехватка свыше 825 000 специалистов), а в 90% всех профессий работникам будет необходимо иметь хотя бы базовые цифровые навыки. Следует приветствовать инициативу Комиссии ЕС в отношении разработки дорожной карты использования и обновления положений Цифровой Компетенции, а также описаний Цифровой Компетенции для разных уровней обучения. Комиссии ЕС необходимо оказать существенную поддержку развитию цифровых навыков у всех возрастных групп населения, вне зависимости от сферы занятости. Это станет первым шагом на пути к выравниванию спроса и предложения на рынке труда. Необходимо подчеркнуть тот факт, что в связи с распространением робототехники странам-членам ЕС необходимо разработать более гибкие системы подготовки и обучения. Это позволит гарантировать, что стратегии развития подобных навыков соответствуют требованиям экономики роботов;

42.Полагает, что популяризация работы в сфере цифровых технологий среди молодых женщин и увеличение количества работающих в этой сфере женщин положительно повлияет на цифровую индустрию, экономику Европы и карьеру самих женщин. Комиссии ЕС и странам-членам ЕС необходимо проявить инициативу и оказать поддержку женщинам, работающим в сфере ИКТ, а также сделать все возможное, чтобы повысить их квалификацию;

43.Призывает Комиссию ЕС начать более внимательно анализировать и отслеживать среднесрочные и долгосрочные тенденции на рынке труда. Особое внимание следует уделить созданию и сокращению рабочих мест, а также смене работы в самых разных сферах трудовой занятости. Это необходимо, чтобы понимать, в каких сферах в результате большего распространения роботов появляются новые рабочие места, а в каких сферах происходит их сокращение;

44.Отмечает, что важно уметь прогнозировать изменения в обществе, учитывая развитие и внедрение робототехники и ИИ. Комиссии ЕС необходимо анализировать возможные сценарии развития и их последствия с точки зрения устойчивости систем социального обеспечения стран-членов ЕС;

45.Подчеркивает, насколько важными являются гибкость любых навыков, а также развитие социальных, креативных и цифровых навыков в образовании. Помимо школ, в которых ученики получают знания, безусловно, нужно пополнять и совершенствовать эти знания на протяжении всей дальнейшей жизни;

46.Отмечает огромный потенциал робототехники применительно к улучшению безопасности труда, поскольку ряд работ, связанных с риском для жизни и здоровья, можно будет доверить роботам. Однако одновременно возникает ряд других рисков, связанных с ростом уровня взаимодействия человека с роботом на рабочем месте. Поэтому важно принять четкие правила взаимодействия человека с роботами. Эти правила необходимо разрабатывать с перспективой на будущее, так, чтобы они гарантировали безопасность работников, отсутствие рисков для их здоровья и соблюдение всех фундаментальных прав в сфере труда;

Влияние на окружающую среду

47.Отмечает, что развитие робототехники и ИИ должно быть организовано так, чтобы влияние на окружающую среду было сведено к минимуму за счет эффективного энергопотребления. Для этого необходимо стимулировать использование возобновляемых источников энергии и дефицитных материалов, минимизацию электронного и электрического мусора, а также ремонтопригодность продуктов. Следовательно, Комиссии ЕС необходимо внедрить принципы экономики замкнутого цикла в каждую политику ЕС, имеющую отношение к робототехнике. Необходимо также отметить, что использование робототехники позитивно скажется на окружающей среде, в особенности на сельском хозяйстве, а также в продовольственной и транспортной сферах. Положительный эффект главным образом будет достигаться за счет использования машин и оборудования меньшего размера, использования меньшего количества воды, энергии и удобрений, а также за счет точного земледелия и оптимизации транспортных маршрутов;

48.Подчеркивает, что киберфизические системы приведут к созданию энергетических и инфраструктурных систем, способных контролировать поток энергии на пути от производителя к потребителю. Кроме того, киберфизические системы приведут к созданию энергетических «просьюмеров», объединяющих производителя и потребителя энергии в одном лице. Все это окажет положительное влияние на окружающую среду;

Ответственность

49.Полагает крайне важным анализ проблемы гражданско-правовой ответственности за вред, причиненный роботом. Для того, чтобы можно было гарантировать одинаковую эффективность, прозрачность и последовательность в решении этой проблемы на территории стран ЕС в интересах граждан, потребителей и предпринимателей, она должна рассматриваться на общеевропейском уровне;

50.Отмечает, что развитие технологии робототехники потребует большего внимания к проблеме взаимодействия людей и роботов. В основе этого взаимодействия должно лежать два главных взаимосвязанных принципа – предсказуемость и направленность. Они являются ключевыми принципами, позволяющими определить, какой информацией должны обмениваться между собой люди и роботы и как достичь согласованности между роботом и человеком для успешного осуществления совместной деятельности;

51.Предлагает Комиссии ЕС на основании Статьи 114 ДФЕС внести предложение о законодательном урегулировании юридических вопросов, связанных с разработкой и использованием ИИ и робототехники в последующие 10-15 лет. Законодательная инициатива может быть дополнена разработкой ненормативных актов, например, руководствами и кодексами поведения, как это указано в рекомендациях в Приложении;

52.Полагает, что какое бы правовое решение не было найдено применительно к гражданской ответственности за вред, причиненный роботами, нормативные правовые акты, которые будут разработаны в будущем, ни в коем случае не должны: во-первых, ограничивать виды и объем ущерба, который может быть компенсирован (по крайней мере если речь не идет о причинении вреда только имуществу); во-вторых, ограничивать формы компенсации, которая может быть получена пострадавшей стороной, только на том основании, что вред не был причинен человеком;

53.Убежден, что будущие нормативные правовые акты должны разрабатываться на основе глубокого анализа, проведенного Комиссией, с целью установить, какой из подходов к ответственности должен применяться: основанный на принципе объективной ответственности или на принципе управления рисками;

54.Отмечает, что для наступления объективной ответственности необходимо доказать лишь факт причинения вреда и причинно-следственную связь между функционированием робота и вредом, нанесенным потерпевшей стороне;

55.Отмечает, что принцип управления рисками не фокусируется на индивидуальной ответственности лица, допустившего “»неосторожное поведение»; вместо этого ответственность возлагается на лицо, которое, при определенных условиях, могло минимизировать риски и учитывать негативные последствия;

56.Полагает, что, принципиально, после определения лиц, которые в конечном счете должны нести ответственность, ее степень должна соответствовать реальному уровню автономности робота и тому, каким инструкциям он следовал. Таким образом, чем выше способность робота обучаться или чем выше уровень автономности, и чем дольше робот обучался, тем большую ответственность должен нести человек, который его обучал. При этом в процессе определения лица, ответственного за вред, очень важно не перепутать навыки, которые робот развил исключительно в процессе самообучения и навыки, которым его обучили. Наконец, необходимо отметить, что, по крайней мере, на сегодняшний день ответственность должна лежать на человеке, а не на роботе;

57.Подчеркивает, что возможным решением в тех случаях, когда определить лицо, обязанное нести ответственность за вред, довольно сложно в связи с высоким уровнем автономности роботов, может быть введение обязательной системы страхования. Например, как это уже реализовано в случае с системой страхования ответственности водителей автомобилей. В то же время, в отличие от страхования ответственности водителей, где страховка распространяется на действия и ошибки человека, страхование в сфере робототехники должно учитывать все возможные случаи ответственности в комплексе;

58.Отмечает, что, как и в случае со страхованием ответственности водителей, нужно предусмотреть резервный фонд денежных средств, которые можно будет использовать для компенсации ущерба, который не покрывается страховкой. Страховым компаниям необходимо разработать новые продукты и предложения, которые бы учитывали все особенности робототехники;

59.В процессе оценки последствий предложения о законодательном урегулировании, Комиссии ЕС необходимо учесть и проанализировать все возможные эффекты любых правовых решений в данной области, например:

a)создания обязательной системы страхования, где это возможно и необходимо, для конкретных категорий роботов. Так же, как и в случае со страхованием ответственности водителей автомобилей, производители и владельцы роботов должны страховать риски потенциального причинения вреда роботами;

b)обеспечения реального использования средств компенсационного фонда, а не просто формального гарантирования выплаты компенсации. Средства из этого фонда должны использоваться с целью выплаты компенсации в тех случаях, когда страховка не покрывает нанесенный роботом вред;

c)частичного освобождения от ответственности производителя, разработчика, владельца или пользователя робота при условии, что они вносят средства в компенсационный фонд, а также если они совместно страхуют ответственность, чтобы гарантировать возмещение причиненного роботом вреда;

d)решения о создании общего компенсационного фонда для всех умных автономных роботов, либо, напротив, создания отдельных фондов для каждой категории роботов. Также следует решить, необходимо ли будет делать единовременный взнос в фонд при введении робота в гражданский оборот, или же взносы необходимо будет делать на протяжении всего срока службы робота;

e)обеспечения того, что связь между роботом и компенсационным фондом можно проследить с помощью присвоения каждому роботу индивидуального регистрационного номера, заносимого в отдельный реестр в ЕС. При помощи этого номера каждый человек, взаимодействующий с роботом, сможет получить больше информации о фонде, из которого будут взиматься денежные средства для компенсации, получить информацию о случаях ограничения ответственности в случаях нанесения ущерба имуществу, о лицах, формирующих фонд, и их функциях, а также любые другие необходимые детали;

 f)о наделении в перспективе роботов особым правовым статусом. Таким образом, по меньшей мере наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ими ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами;

Международные аспекты

60.Отмечает, что существующие международные частноправовые нормы в отношении дорожно-транспортных происшествий, действующие на территории ЕС, не требуют срочных кардинальных изменений в связи с развитием автономных транспортных средств. В то же время упрощение существующей двойственной системы определения применимого права (на основе Регламента (ЕС) № 864/2007 Европейского Парламента и Совета , а также Гаагской конвенции от 4 мая 1971 о праве, применимом к дорожно-транспортным происшествиям) будет способствовать правовой определенности и ограничит список возможностей для выбора наиболее выгодной юрисдикции;

61.Отмечает возможную целесообразность внесения поправок в международные соглашения, например, в Венскую конвенцию о дорожном движении от 8 ноября 1968 года и Гаагскую конвенцию о праве, применимом к дорожно-транспортным происшествиям;

62.Ожидает, что Комиссия ЕС убедится в единообразном принятии всеми странами-членами ЕС измененных правил международных актов, например, Венской конвенции о дорожном движении. Это позволит сделать возможным беспилотное управление автомобилями. Комиссии ЕС, странам-членам ЕС и представителям индустрии необходимо как можно скорее реализовать положения, указанные в Амстердамской декларации;

63.Горячо поддерживает международное сотрудничество в изучении этических, правовых и социальных вопросов в сфере ИИ и робототехники, результатом которого может стать принятие нормативных стандартов под эгидой ООН;

64.Отмечает, что положения и ограничения Регламента (ЕС) № 428/2009, Европарламента и Совета об обороте продукции двойного назначения (товаров, технологий и программного обеспечения, которые могут быть использованы как в гражданских, так и в военных целях, и/или могут способствовать распространению оружия массового разрушения) также должны распространяться на робототехнику;

Заключительные положения

65.Требует, на основании Статьи 225 ДФЕС, от Комиссии ЕС предоставить на рассмотрение в порядке Статьи 114 ДФЕС законодательное предложение о принятии директивы о нормах гражданского права о робототехнике, в соответствии с рекомендациями, приведенными в Приложении к данному документу;

66.Подтверждает, что рекомендации составлены с учетом фундаментальных прав человека и принципа субсидиарности;

67.Признает, что указанное выше требование к Комиссии ЕС может повлечь за собой финансовые затраты в случае создания еще одного Европейского агентства;68.Поручает Президенту передать текст данной резолюции и указанные в ней рекомендации Комиссии и Совету ЕС.

 

ПРИЛОЖЕНИЕ К РЕЗОЛЮЦИИ:

РЕКОМЕНДАЦИИ ОТНОСИТЕЛЬНО СОДЕРЖАНИЯ ПРЕДЛОЖЕНИЯ КОМИССИИ ЕС

 

Определения и классификация “умных роботов”

Необходимо дать общепринятое на территории ЕС определение умных автономных роботов. При этом нужно дать определения их подкатегориям (если необходимо) и учесть следующие их характеристики:

−способность становиться более автономными, используя сенсоры и/или обмениваясь информацией со своей средой (совместимость) и анализируя ее;

−способность обучаться на основе приобретенного опыта и в процессе взаимодействия;

−наличие формы физической поддержки робота;

−способность адаптировать свои действия и поведение в соответствии с условиями среды.

Регистрация умных роботов

Для того, чтобы иметь возможность отслеживать роботов и с целью оказать содействие процессу внедрения последующих рекомендаций, необходимо создать систему регистрации продвинутых роботов. Система регистрации должна быть основана на критериях классификации роботов. Система регистрации должна действовать на всей территории ЕС, распространяя свое действие на весь внутренний рынок. Управление системой регистрации может осуществлять Агентство ЕС по робототехнике и искусственному интеллекту в случае, если такое агентство будет создано.

Гражданско-правовая ответственность

Какое бы правовое решение не предусматривалось применительно к гражданской ответственности роботов и ИИ, нормативные правовые акты, которые будут разработаны в будущем, ни в коем случае не должны: во-первых, ограничивать виды и объем ущерба, который может быть компенсирован (по крайней мере если речь не идет о причинении вреда только имуществу); во-вторых, ограничивать формы компенсации, которая может быть получена пострадавшей стороной, только на том основании, что вред не был причинен человеком.

Будущие нормативные правовые акты должны разрабатываться на основе глубокого анализа, проведенного Комиссией, с целью установить, какой из подходов к ответственности должен применяться: основанный на принципе объективной ответственности или на принципе управления рисками.

Необходимо разработать систему обязательного страхования, согласно которой производитель может быть обязан страховать производимых им автономных роботов.

Помимо системы страхования, необходимо создать резервный фонд денежных средств. Средства из этого фонда будут возмещать ущерб, который не покрывается страховкой.

Любое решение относительно проблемы ответственности, действующей в отношении робототехники и искусственного интеллекта, должно приниматься на основании глобального исследования и существующих разработок в сфере робототехники и нейронауки. При этом, ученые и эксперты должны иметь возможность заранее оценить все риски и последствия принятого решения.

Совместимость, доступ к коду и права интеллектуальной собственности

Необходимо обеспечить совместимость роботов, подключенных к единой сети и взаимодействующих друг с другом. Когда это необходимо, нужно иметь возможность получить доступ к исходному коду, входным данным и информации о конструктивных особенностях. Эта информация необходима для расследования происшествий с участием роботов и установления причин причинения вреда, а также для того, чтобы гарантировать их долгосрочное функционирование, доступность, работоспособность, безопасность и защищенность.

Хартия робототехники

Разрабатывая нормативно-правовые акты в отношении робототехники, Комиссия ЕС должна учитывать принципы, изложенные в Хартии робототехники, текст которой приведен далее.

ХАРТИЯ РОБОТОТЕХНИКИ

Представленный в хартии кодекс этики в отношении робототехники будет являться фундаментом, определяющим основные этические принципы робототехники, руководствоваться которыми необходимо начиная со стадии проектирования и разработки.

Рамки этических норм, создание которых осуществляется с учетом европейских научных исследований и разработок в сфере робототехники и нейронауки, не должны быть строгими. Иными словами, должна оставаться возможность вносить в них точечные изменения, которые могут быть необходимы в каждом конкретном случае для того, чтобы оценить, что следует считать правильным или неправильным поведением в конкретной ситуации, и принять решение в соответствии с существующей иерархией ценностей.

Кодекс не должен решать все основные правовые вопросы в сфере робототехники, его следует воспринимать как дополнение к существующим правовым нормам. При этом Кодекс будет помогать этической классификации роботов, помогать решать вопросы, затрагивающие общественные интересы, а также сделает инновационные разработки в этой сфере более ответственными.

Особое внимание следует уделить стадиям научных исследований и разработок соответствующего технологического пути (процесс разработки, этический анализ, организация контроля и т.д.). Его цель – обеспечить, чтобы исследователи, практики, разработчики и пользователи в данной области следовали всем этическим стандартам, а также предложить способ разрешения соответствующих этических проблем. Это позволит разрабатываемым системам робототехники функционировать в соответствии с этическими нормами.

 

КОДЕКС ЭТИКИ ДЛЯ РАЗРАБОТЧИКОВ РОБОТОТЕХНИКИ

ВВЕДЕНИЕ

В соответствии с данным кодексом этики, все исследователи и разработчики должны относиться к своей деятельности ответственно, помня о том, что им необходимо уважать человеческое достоинство, право человека на конфиденциальность и безопасность.

Настоящий Кодекс поощряет тесное междисциплинарное сотрудничество для того, чтобы гарантировать, что исследования в сфере робототехники на территории ЕС безопасны, эффективны и соответствуют принципам этики.

Настоящий Кодекс этики действует в отношении всех видов исследовательской деятельности и разработок в любых видах робототехники.

Настоящий Кодекс этики является добровольным. В нем приведен список общих принципов и руководящих положений, которым могут следовать все заинтересованные лица.

Организации, спонсирующие исследования в сфере робототехники, исследовательские организации, специалисты и комитеты этики уже на самых первых стадиях должны учитывать будущие последствия технологий или научных разработок. Им следует культивировать ответственное отношение к своей деятельности с учетом вопросов и перспектив, которые могут возникнуть в дальнейшем.

Государственные и частные организации, спонсирующие исследования в области робототехники, должны требовать от каждого кандидата на финансирование исследований в сфере робототехники проведения и предоставления результатов оценки рисков. В соответствии с Кодексом предполагается ответственное поведение людей, а не роботов.

Исследователи, проводящие исследования в области робототехники, должны придерживаться высочайших этических и профессиональных стандартов, а также следовать следующим принципам:

Принцип “делай благо” – согласно данному принципу, деятельность роботов должна быть направлена на интересы людей;

Принцип “не навреди” – согласно данному принципу, роботы не должны причинять вред человеку;

Принцип самостоятельности – согласно данному принципу, человек имеет право принимать добровольное информированное решение об условиях взаимодействия с роботами;

Принцип справедливости – согласно данному принципу, все блага, получаемые в результате деятельности роботов, должны быть распределены справедливо. В особенности это относится к доступности роботов, ухаживающих за больными и помогающих людям по дому.

Основные права

Исследования, разработки и использование робототехники должны осуществляться с учетом основных прав человека и только в интересах их благосостояния и самоопределения как отдельно взятого человека, так и общества в целом. Права на уважение человеческого достоинства и самостоятельность (как физическую, так и психологическую) должны неукоснительно соблюдаться.

Предосторожность

Исследования в области робототехники должны проводиться в соответствии с принципом предосторожности. Необходимо прогнозировать предполагаемое влияние подобных разработок на уровень безопасности, заранее принимать все необходимые меры, поощряя в то же время прогресс в данной области в интересах общества и окружающей среды.

Вовлеченность

Разработчики робототехники должны гарантировать прозрачность и обеспечить всем заинтересованным лицам правомерный доступ к необходимой информации. Положение о вовлеченности подразумевает, что все участники исследований или заинтересованные проблемой робототехники лица будут иметь возможность принимать участие в процессах принятия решений.

Ответственность

Разработчики робототехники должны нести ответственность за социальные и экологические последствия, а также последствия для здоровья людей, которые могут возникнуть в настоящем и будущем в результате использования роботов.

Безопасность

Разработчики робототехники должны учитывать и заботиться о безопасности, здоровье и физическом благосостоянии человека, одновременно с этим соблюдая его основные права. При этом разработчики робототехники должны сразу же раскрывать всю информацию о возможных опасностях для общества или окружающей среды.

Возможность отмены действия

Ключевым элементом, гарантирующим безопасность и надежность робототехники с момента ее создания, является обязательная функция отмены действия как часть системы контроля робота. Подобная функция сообщает роботу, какие действия можно отменить и как это сделать. Возможность отменить последнее совершенное действие или последовательность действий позволяет пользователям вернуться на несколько шагов назад, чтобы восстановить нормальный ход роботы робота.

Конфиденциальность

Разработчикам необходимо всегда уважать право на конфиденциальность. Разработчик робототехники должен гарантировать, что личная информация будет защищена и использоваться разрешенными способами. Кроме того, разработчикам робототехники необходимо гарантировать анонимность пользователей, за исключением экстраординарных обстоятельств и при условии получения от пользователя прямого недвусмысленного и информированного согласия на раскрытие информации о нем. Это согласие нужно запросить и получить до начала взаимодействия человека с роботом. По этой причине, разработчики несут обязанность разработать и предусмотреть процедуры, обеспечивающие получение согласия в законной форме, сохранение конфиденциальности и анонимности, а также гарантирующие справедливое обращение и соблюдение принципа надлежащей правовой процедуры. Разработчики должны выполнять любой запрос на удаление любых персональных данных и из любых баз данных.

Минимальный вред и максимальная польза

Исследователи должны стремиться достигать максимальной пользы на всех стадиях своей работы, начиная с момента проведения исследователей и до этапа распространения. Необходимо избежать нанесения вреда участникам исследований, испытуемым, участникам экспериментов, процессов тестирования или изучения, и любому человеку. В случае, если риски нанесения вреда напрямую связаны с процессом исследования и их невозможно избежать, необходимо дать подробную оценку этим рискам и составить протоколы управления рискам; в последствие им необходимо неукоснительно следовать. Как правило, риск причинения вреда должен быть сравним с риском причинения вреда в повседневной жизни. Иными словами, люди не должны подвергаться риску большему (или дополнительному), чем тот, с которым они сталкиваются в своей обычной жизни. В основе функционирования роботизированных систем должен лежать анализ возможных рисков, проведенный с учетом принципов предосторожности и пропорциональности.

 

КОДЕКС КОМИТЕТОВ ПО ЭТИКЕ НАУЧНЫХ ИССЛЕДОВАНИЙ (КЭНИ)

 

Принципы

Независимость

Анализ этики научного исследования должен происходить отдельно от самой процедуры исследования. В соответствии с данным принципом, следует избегать конфликта интересов между исследователями и теми, кто анализирует протокол этики исследования, а также последних - с государственными организационными структурами.

Компетентность

Анализ этики научного исследования должны проводить только те люди, которые имеют соответствующую квалификацию. Следовательно, особое внимание следует уделить определению уровня участия различных специалистов в КЭНИ и организации их обучения.

Прозрачность и ответственность

Анализ этики научного исследования должен быть открытым, при этом обязанности КЭНИ должны быть четко определены. КЭНИ должны занимать определенное место в организационных структурах, которые обеспечивают прозрачность деятельности КЭНИ и позволяют проводить процедуры с целью пересмотра и обновления стандартов.

Функции Комитетов по этике научных исследований

Как правило, в обязанности КЭНИ входят: 1) анализ любых исследований с участием человека, которое проводится исследовательской организацией или ее сотрудниками; 2) обеспечение того, что анализ этики исследований является независимым, своевременным и компетентным; 3) защита права на уважение человеческого достоинства, основных прав человека и обеспечение благополучия участников исследований; 4) оценка безопасности исследователей; 5) анализ законных интересов других заинтересованных лиц; 6) подготовка мнений по существу заявленных предложений с точки зрения науки; 7) предоставление обоснованных рекомендаций для исследователей в случае, если заявленное предложение представляется актуальным.

Образование Комитетов по этике научных исследований

В КЭНИ должны работать сотрудники из разных областей, причем обоих полов. Штат сотрудников КЭНИ должен состоять из высококвалифицированных сотрудников, имеющих опыт и квалификацию в сфере исследований робототехники. Механизм образования КЭНИ должен обеспечивать соблюдение ряда требований. Во-первых, состав членов КЭНИ должен обеспечивать адекватный баланс между научными взглядами и мнением из области философии, права или этики; следует также учитывать позицию неспециалистов в робототехнике. Во-вторых, хотя бы один из членов КЭНИ должен специализироваться на вопросах этики, здоровья, образования или социальных услуг; это правило применимо в тех случаях, когда в центре исследования будет одна из таких сфер. В-третьих, в состав КЭНИ должны входить эксперты, имеющие методологические знания в рассматриваемой КЭНИ сфере исследования. В-четвертых, необходимо избегать конфликта интересов.

Организация контроля

Все исследовательские организации должны ввести процедуры, которые бы позволяли контролировать проведение исследований, получивших одобрение КЭНИ, вплоть до момента их завершения; кроме того, должны быть созданы условия для продолжения анализа на случай, если в процессе исследования ожидаются изменения. Контроль должен быть организован в соответствии с характером и степенью рисков, которые связаны с исследованием. Если КЭНИ считает, что отчет о контроле хода исследования вызывает серьезные опасения об этической стороне проведения исследования, КЭНИ необходимо запросить полный и подробный отчет о ходе исследования для проведения полноценного этического анализа. Если же будет сделан вывод о том, что исследование ведется в нарушение этических норм, КЭНИ может рассмотреть вопрос об отзыве одобрения на проведение такого исследования. Соответственно, подобное исследование должно быть либо приостановлено, либо прекращено.

 

ЛИЦЕНЗИЯ ДЛЯ РАЗРАБОТЧИКОВ

−Вы должны принимать во внимание общеевропейские ценности, такие как уважение человеческого достоинства, самостоятельность, право на самоопределение, свобода и справедливость, на всех стадиях процесса проектирования, разработки и распространения технологий робототехники и ИИ, а также до и после них. Вы не должны причинять вред, травмировать, вводить в заблуждение или использовать в своих интересах (легко уязвимых) пользователей.

−Вы должны разработать надежную систему принципов разработки робототехники, учитывающую все аспекты функционирования роботов, включая техническое устройство, программное обеспечение, а также любые процессы обработки информации как внутри, так и вне платформы для целей обеспечения безопасности.

−Вы должны следовать принципу «проектируемая конфиденциальность», который позволит гарантировать, что личные данные будут защищены и будут использоваться только разрешенными способами.

−Вы должны создать аварийный механизм отключения, разумно интегрированный в каждую вашу разработку.

−Вы должны убедиться в том, что функционирование робота не будет противоречить местным, национальным и международным этическим принципам и правовым нормам.

−Вы должны убедиться в том, что процесс принятия роботом решений поддается реконструкции и прослеживанию. −Вы должны убедиться в том, что программирование систем робототехники максимально прозрачно, а поведение роботов - предсказуемо.

 −Вы должны анализировать предсказуемость системы человек-робот, учитывая неточность интерпретаций и действий, а также возможные ошибки как робота, так и человека.

−Вы должны еще на этапе проектирования разработать инструменты, позволяющие проследить действия робота. Такие инструменты будут способствовать, пусть даже частично, проведению анализа и объяснению поведения роботов на разных уровнях – экспертном, пользовательском или на уровне операторов.

−Вы должны составлять протоколы разработки и оценки робототехники. В процессе оценки преимуществ и рисков, связанных с робототехникой (включая когнитивные, психологические и экологические), необходимо сотрудничать с потенциальными пользователями и всеми заинтересованными лицами.

−Вы должны убедиться в том, что в процессе взаимодействия с людьми роботы будут идентифицироваться человеком именно как роботы.

 −Вы должны гарантировать безопасность и здоровье тех, кто будет взаимодействовать с робототехникой. Роботы как продукт должны быть безопасными и защищенными. Разработчик робототехники должен соблюдать права человека и не наносить урон его благополучию; он не вправе создать робота, не обеспечив его безопасность, а также эффективность и обратимость операций роботизированной системы.

−Вы должны получить одобрение КЭНИ на начало тестирования робота в реальном мире или на участие человека в процессе реализации разработки.

 

ЛИЦЕНЗИЯ ДЛЯ ПОЛЬЗОВАТЕЛЕЙ

−Вы можете использовать робототехнику, не опасаясь, что вам будет нанесен физический или психологический вред.

−Вы имеете право ожидать, что робот будет выполнять любые задания в соответствии со своим назначением.

−Вы должны учитывать тот факт, что перцепционные, когнитивные и двигательные возможности любого робота могут быть ограничены.

−Вы должны учитывать, что человек – это хрупкое существо как физически, так и психологически, а также принимать во внимание его эмоциональные потребности.

 −Вы должны учитывать права людей на неприкосновенность частной жизни. Например, отключать системы видеонаблюдения, если происходящее носит личный характер.

 −Вам запрещено собирать, использовать и раскрывать персональные данные без явно выраженного согласия их обладателя.

  −Вам запрещено использовать робота в любых целях, которые противоречат этическим и правовым нормам и стандартам.

 −Вам запрещено модифицировать любого робота так, чтобы он функционировал как оружие.

***

Перевод выполнен А. Незнамовым, М. Ивановой для Исследовательского центра проблем регулирования робототехники и ИИ robopravo.ru. (с) Незнамов А.В., 2017. Просим Вас любое копирование или цитирование фрагментов текста оформлять со ссылкой на сайт robopravo.ru