Немецкий юридический журнал, том 21, Специальный выпуск 1 (20 вызовов в ЕС в 2020 году). Январь 2020 , стр. 74-79.

Автор Мирей Хильдебрандт. Опубликовано Издательством Кембриджского университета от имени немецкого журнала «Право».

https://doi.org/10.1017/glj.2019.99.

Это статья открытого доступа, распространяемая по условиям лицензии Creative Commons Attribution (https://creativecommons.org/licenses/by/4.0/), которая позволяет неограниченное повторное использование, распространение и воспроизведение в любой среде, при условии, что оригинальная работа правильно цитируется.

Мирей Хильдебрандт является профессором-исследователем по теме «Взаимодействие права и технологии», назначенным Исследовательским советом в Университете Врие в Брюсселе, в исследовательской группе юридических наук и общества, юридического факультета и криминологом. Она также заведует кафедрой по интеллектуальным средам, защите данных и верховенству права в Институте вычислительных и информационных наук (ICIS), научном факультете, Университетград Ниймеген. В 2018 году она получила грант грант nr. ERC-2017-ADG No 788734. Смотреть www.cohubicol.com.

A. Введение

В этой статье я беру свой шанс кратко представить ключевые идеи двух немецких философов, чья работа имеет большое значение для верховенства права в эпоху машинного интеллекта. Нынешнее преобладание англо-американской моральной и правовой философии, с его акцентом на утилитарном или определенном типе неокантской моральной философии, требует некоторого компенсационного мышления, и немецкий юридический журнал кажется правильным местом, чтобы осмелиться на такую вещь. Недавний запуск английского перевода биолога и философа Гельмута Плеснера "Основополагающие уровни органической жизни и человека" (1928)1 предлагает фундаментальное отражение разницы между человеческим и машинным интеллектом, включая проникающую критику такого рода поведения, который лежит в основе персонализированного микротаргетинга.2 Основные выводы Плеснера, основанные на том, что он называет эксориентированной позиционностью человека. , хорошо связываются с ключевыми идеи адвоката и юридического философа Густава Radbruch, взятыми из его правовой философии (1932), 3, в частности, идея о том, что закон определяется антиномийскими целями.

ИИ обычно выступает за искусственный интеллект, ссылаясь на довольно расплывчатое понятие, по которому не существует согласия, ни среди экспертов, ни среди тех, кто пострадал от его якобы разрушительного характера. Таким образом, ИИ лучше понимать, ссылаясь на автоматизированные выводы и лучше охарактеризовать как машинный интеллект. Основываясь на Плеснере, я буду утверждать, что нынешний машинный интеллект радикально отличается от человеческого интеллекта. Я хочу сказать, что именно человеческий интеллект глубоко искусственный, в то время как машинный интеллект просто автоматизирован. Это связано с важностью признания, оценки и защиты искусственного характера права и специфического интеллекта, который оно предоставляет человеческому обществу. Наконец, я буду утверждать, что правильное понимание «режима существования» машинного агентства будет одной из главных проблем для ЕС в 2020-х годах. Если мы получим это право, мы должны быть в состоянии избежать поиска определенности4, который информирует как информационный капитализм5 и государство-центр наблюдения.6 Оба основаны на ошибочных видениях тотального контроля.7 Избегая ловушек алгоритмического переопределения законодательства ЕС должны держать наше будущее открытым таким образом, что расширение прав и возможностей нас, вместо того, чтобы относиться к нам как манипулируемые пешки.

B. Человеческий интеллект глубоко искусственный

В своих уровнях философ-антрополог Плеснер обсуждает три конституционных закона человеческого состояния. Во-первых, он демонстрирует, каким образом наша природа глубоко искусственна. Во-вторых, он объясняет, как наше познание зависит от опосредования непосредственности. В-третьих, он показывает, что наша бывшая позиционная позиция генерирует утопическую точку зрения. Последнее относится к позиции наблюдателя, которая позволяет внешний, третьего лица точки зрения, которая, тем не менее, зависит от первого и второго лица перспективы. В сущности, эти конституционные законы описывают тот факт, что мы никогда не один с самим собой. По словам Плеснера, мы неспособны к естественному, неопосредоварену доступу к миру, который мы воспринимаем, к внешнему миру, или к миру, который мы учредим, общему миру или даже к себе, который мы испытываем, к внутреннему миру. Наше «я» не идентична себе. Я не является веществом, а перспективой первого лица, которая зависит от нашей способности принять перспективу второго лица, предвидя, как другие поймут нас, и от третьего лица точки зрения, что расположения нашего воплощенного себя в объективированном пространстве.

Другими словами, Плеснер подчеркивает, что наше «я» состоит из того, что занимает позицию экс-центриза.8 Хотя некоторые могут подумать, что это ошибка, на самом деле это особенность. Именно несоответствие себя с самим собой порождает продуктивные недоразумения и творческие скачки. Именно наша способность представить и укрепить мир институтов, которые дают новизну, сохраняя при этом законные взаимные ожидания, которые позволяют нам действовать в будущем.

В то же время, очевидно, несоответствие себя с самим собой, которое определяет нас, создает экзистенциальную неопределенность, которая не может быть решена. Эта неопределенность может вызвать страх, душевную боль и беспокойство, которые, в свою очередь, могут вызвать ложные обещания о безопасной и простой жизни. Это соблазн популизма, фейковых новостей и других попыток игнорировать и отрицать раскол, который нас обуза. Наша искусственная природа является лишь особенностью, если мы сталкиваемся с турбулентностью она подразумевает, и противостоять легко резолюции, которые превратят функцию в ошибку. Столкнувшись с хрупкостью, а также устойчивостью общего институционального мира, который мы создаем и поддерживаем, является основой человеческого интеллекта, требующего бдительности и заботы, а также автономии и адаптации.

По мнению юриста и философа-юриста Радбруча, в конституционной демократии закон является основой устойчивости общего мира, потому что закон объединяет три антиномиановые ценности, которые определяют цели закона. Во-первых, правовая определенность обоснована разумной предсказуемостью последствий его действий. Без такой предсказуемости значимые действия невозможны. Во-вторых, правосудие выступает посредником как в распределении, так и в пропорциональном равенстве, требуя, чтобы правительство относилось к равноправию подобных дел в меру их сходства. В-третьих, инструментальность способствует достижению целей, определенных демократическим законодателем.9 Закон действует в стыке второго лица, что позволяет людям обращаться друг с другом на основе законных, подлежащих исполнению и спорных норм, а также перспективы от третьего лица, которая учитывает соответствующие, спорные факты. Таким образом, закон защищает неопределенные перспективы от первого лица, как "я", так и "мы", которые зависят от сочетания предсказуемости и состязаемости, присущей человеческому состоянию.

C. Машинная природа машинного интеллекта

В «Умных технологиях» и «Конце» закона 10 я утверждал, что крайне важно признать и признать «агентство» интеллектуальных технологий. В соответствии с концепцией агентства, разработанной в контексте теории систем11 и робототехники,12 я определил агентство как способность воспринимать окружающую среду с точки зрения действенности, в сочетании со способностью действовать на мир. Это подчеркивает реляционный характер свободы воли и экипировку восприятия и действия; агенты воспринимают то, что их окружающая среда дает им, как к действиям, которые они могут предпринять.13 Это не означает, что все агенты имеют намерения или внутреннюю жизнь. Агенты не должны быть сознательными, чтобы выжить и процветать в их среде. На самом деле, это определение будет включать термостат, который воспринимает температуру с точки зрения действия, которое он может предпринять, так как его восприятие того, был ли достигнут определенный порог, существует в функции решения о том, следует ли принимать меры по включению его нагревательных или охлаждающих мощностей. Она также включает в себя растения, которые не имеют центральной нервной системы и не участвуют в обсуждении, прежде чем адаптироваться к окружающей среде. Как правило, для того чтобы квалифицироваться как агент, теория систем и робототехника требуют больше, чем действия и восприятие, в частности, способность перенастраивать собственную систему для достижения поставленных целей, на основе непрерывной обратной связи петли. Кроме того, человеческое агентство включает в себя возможность устанавливать свои собственные цели, как "я", так и как "мы". То есть, как личность и как общество.

Существует две причины для введения концепции агентства высокого уровня, которая включает в себя нечеловеческих и даже неорганических агентов. Во-первых, он противостоит нам с тем фактом, что мы в настоящее время окружены машинных агентов, которые адаптируют свое поведение к нашим поведенческим данным с целью таким образом изменить наше поведение. Их адаптация основана на поведенческом, кибернетичном понимании человеческого общества, циклизации стандартных условий с мониторингом и модификацией поведения.14 Признавая, что нечеловеческие и даже неорганические сущности могут иметь какое-то агентство, мы можем научиться предвидеть и реагировать на то, как эти агенты пытаются предсказать и предвосхитить нас. Игнорирование их свободы воли может оставить нас в неведении и, таким образом, манипулируемо. Во-вторых, эта концепция агентства высокого уровня также противостоит нам с тем фактом, что, хотя нечеловеческие агенты могут предвидеть нас и могут научиться влиять на нас, они не обязательно разделяют наш тип свободы воли. Это касается растений и животных, а также машин.

Машины, способные к автоматизированным выводам (ИИ), имеют определенный тип агентства, который лучше всего можно определить как данные и кодуправляемые. Они управляются данными, поскольку они могут воспринимать свою среду только в виде данных. Люди воспринимают цвет, звук, контуры, запахи, вкусы, осязания, в то время как наше восприятие всегда уже опосредовано языком и интерпретацией.15 Машины ИИ могут воспринимать все это только как данные. Это подразумевает акт перевода или среду, состоящую из данных, например, онлайн-среды, виртуальной реальности или среды IoT. Машины ИИ управляются кодом, потому что данные не говорят сами за себя. Для выводов, которые эти машины делают, требуется код, например, основанный на проектах исследований машинного обучения, которые направлены на сжатие больших данных в математическую функцию, так называемую целевую функцию, которая определяет данные с учетом конкретной машиночитаемой задачи. Это, в свою очередь, требует разработки так называемого пространства гипотез, которое состоит из потенциально релевантных математических функций. Эти функции служат гипотезами для так называемой целевой функции, которая якобы лежит в основе закономерностей во внешнем, внутреннем или общем мире. Поскольку алгоритмы не могут быть обучены будущим данным, никогда не можно быть уверенным в том, что целевая функция достаточно приближена.16 Для измерения приближения машинное обучение использует так называемые объективные функции, которые направлены либо на минимизацию ошибок, либо на максимизацию вероятности. Эти объективные функции таким образом оптимизируют решение математической задачи определения наилучшего приближения целевой функции. Другими словами, машинный интеллект основан не на значении, а на математике. Он не способен принимать первого или второго лица точки зрения. Вместо этого он построен на нашей способности принимать третьего лица точки зрения. Природа машинного обучения – это автоматизация, а не искусственность в смысле Плеснера. Таким образом, машинное агентство не имеет возможности развивать экс-ориентированную позицию, поскольку это только когда-либо выполнение кода.

Люди понимают свое окружение несколькими способами, часто с помощью автоматизированных выводов, которые мы называем интуицией. Эти выводы основаны не на машине читаемых данных, а на эксцентрической позиционности, которая предлагает нам "читать" наши собственные действия с точки зрения других. Это позволяет нам предвидеть, как другие отреагируют на наши действия и какие последствия наши действия окажут на институциональную среду, в которой мы живем. Эта институциональная среда – общий мир– таким образом формирует потенциал человека, опираясь на речевые действия17, которые составляют и стабилизируют взаимные ожидания. Эти ожидания зависят от значения человеческого дискурса, который, в свою очередь, зависит от перформативного характера речевых актов, которые могут быть произнесены или написаны. Например, когда государственный служащий объявляет двух людей мужем и женой, они не описывают брак, а встывают его. Декларация делает то, что она говорит. Использование человеческого языка является перформативным в том смысле, что то, что считается браком, но и как хлеб, дом или общественный транспорт, определяется тем, как эти термины используются.

Это подчеркивает нормативный, хотя и не моральный, характер использования языка. Поскольку нормы, определяющие использование языка, в свою очередь, определяются использованием языка, человеческий дискурс 18 страдает и празднует фундаментальную неопределенность и сопутствующую открытость. Тот факт, что значение терминов зависит от фактического использования vouches для открытой текстуры как словарный запас и грамматика наших языков и институционального контекста они позволяют. Это дает неопределенность, творчество и постоянное переосмысление общего мира институциональных артефактов, таких как брак, деньги, контракты, собственность, государство или университет. По этой причине человеческий интеллект глубоко переплелся с перформативной природой человеческого дискурса и искусственной средой, которая он создает, поддерживает и преображает.

Машинный интеллект не основан на эксцентрической позиции человеческих агентов, хотя создание машинного интеллекта есть. Машины не могут делать ничего, кроме выполнения программ, разработанных людьми, даже если эти программы позволяют машине перенастроить свою программу с учетом указанных машиночитаемых задач, и даже если люди могут разрабатывать программы, которые строят новые программы. Хотя последняя будет генерировать потенциально непредсказуемую динамику, машина по-прежнему просто выполнения кода, в ответ на данные, которые она питается. Машинное агентство не имеет внутреннего мира, не основано на общем мире и не процветает на продуктивной двусмысленности смысла. Машинное агентство не страдает несоответствием себя с самим собой.

D. Искусственный интеллект человеческого права

Современный позитивный закон – это искусственная конструкция, не в наивном смысле социального конструктивизма или неолиберального волюнтаризма, а в том смысле, что он является текстовым артефактом, зависящем от перформативной природы человеческого дискурса. Это означает, что юридическая сила не является вопросом грубой силы или механического применения, а вопросом обеспечения того, что использование языка считается имеющим как эффект. Эффект не причинный, а перформативный. Таким образом, нарушение уголовного законодательства приводит не к наказанию, а к наказанию, которое освобождает законное применение насилия при соблюдении конкретных условий. Это интегрирует правовую инструментальность с правовой защитой, в том, что уголовное законодательство надеется уменьшить преступность таким образом, чтобы защитить от произвольного применения насилия со стороны государства.

Искусственный характер человеческого права действует в отношении общего мира, поскольку положительное право дает разрешения, приписывает имущество, налагает обязательства по выплате компенсации или обязанностей воздерживаться от вмешательства в общественные блага или частные интересы. Это часто требует балансировки, например, когда два или более основных прав несовместимы в конкретном случае или когда основополагающее право несовместимо в конкретном случае с преобладающим общественным благом, таким, как национальная безопасность или неприкосновенность частной жизни. Однако несовместимость на уровне конкретных дел не подразумевает несовместимости как таковой. Перефразируя Радбруха, современный позитивный закон co-determines and protects the shared world путем поддержания антиномианового характера ключевых стимулов, которые управляют законом в конституционной демократии: правовая определенность, инструментальность и справедливость19.

Без правовой определенности верховенство права либо рухнет в этику и будет зависеть от этических наклонностей власть и власть, либо рухнет на произвольное право по закону, отменив сдержки и противовесы, обеспеченные независимой судебной системой. Без инструментальности закон рухнул бы на нравственность. Это вынудит директивные органы найти другие инструменты для того, чтобы их политика функционировала, например, технорегулирование. Без справедливости позитивный закон рушится в вид законности формального позитивизма, который отделяет закон полностью от морали, или в правило людей, которое доставляет нас к капризам того, кто находится у власти или власти. Это означает, что попытки урегулировать антиномийский характер права могут закончиться разрушением общего мира, поскольку общий мир в конституционной демократии основан на современном позитивном праве. Правовой позитивизм сводит закон к жесткому типу законности. Естественное право, которое приравнивает правовую философию к моральной философии, сводит право к этике. Наконец, «реальная политика» циничной политологии, или даже критические юридические исследования, сводит закон к распределению рисков и возможностей, полностью зависящих от игры власти.

Антиномический характер современного позитивного права согласуется с эксцентрической позициональностью человеческой природы. Оба подчеркивают неопределенный характер человеческой свободы воли и общего мира, который она опирается и питает. Интеллект человеческих индивидуумов и человеческих коллективов процветает на этой составной неопределимости; поэтому его можно смоделировать, но не учредить машинистскими агентами.

E. Вызов для европейского законодателя: получение права ИИ

Как только мы начинаем ценить автоматизированное выводо (AI) за то, что это такое, площадка для создания надежных приложений ИИ может быть расширена. Невероятные проблемы, с которыми мы сталкиваемся в результате изменения климата, могут потребовать широкого использования надежного ИИ. Например, нам могут понадобиться инструменты ИИ при разработке устойчивого подхода к нехватке энергии и воды, засухам, неспокойным погодным условиям с потенциально катастрофическими последствиями, управлению стихийными бедствиями и перенастройке рынков труда в связи с экономической миграцией. Надежный ИИ может быть разработан только в том случае, если он основан на звуковом и спорном исследовательском дизайне, закрепленном в основных принципах воспроизводимой открытой науки.20 Он не может быть основан на основных принципах соблазнительных маркетинговых стратегий, основанных на манипулятивных предположениях теории поведенческих подтолкнуть21.

Именно здесь европейскому праву придется утверждать и изобретать свой искусственный интеллект в качестве якоря для сдержек и противовесов верховенства права. Антропология Плеснера может помочь в освещении того, как эксцентрическая позиционная позиция, которая является основой человеческого интеллекта, информирует антиномийский характер закона в конституционной демократии, которая была подчеркнута Радбрухом. Это имеет основополагающие последствия для занятости автоматизированных выводов, машинного агентства и машинного интеллекта. Суды, которые понимают ограничения машинных выводов, которые питаются машинным поведением человека, получат конкурентное преимущество по сравнению с юрисдикциями, которые не учитывают эксориентированную позиционность человеческого агентства.

1 Plessner, Helmuth & Bernstein, J. M., levels of organic life and the human: an introduction to philosophical anthropology (Millay Hyatt trans., 2019).Google ScholarSee Lindemann, Gesa, Editorial, 42 hum. stud. 1–12 (2019) (introducing the special issue on Plessner’s work).CrossRef | Google Scholar

2 Buytendijk, F. J. J. & Plessner, H., Die Physiologische Erklärung Des Verhaltens, 1 acta biotheoretica 151–72 (1936).CrossRef | Google Scholar

3 Radbruch, Gustav, Legal Philosphy, in the legal philosophies of lask, radbruch and dabin107–12 (Kurt Wilk Trans., 2014).Google ScholarSee also Hildebrandt, Mireille, Radbruch’s Rechtsstaat and Schmitt’s Legal Order: Legalism, Legality, and the Institution of Law, 2 critical analysis of l. 42 (2015).Google Scholar

4 See stephen toulmin, cosmopolis: the hidden agenda of modernity (1992).

5 See julie e. cohen, between truth and power: the legal constructions of informational capitalism (forthcoming 2019).

6 See richard h. thaler & cass r. sunstein, nudge: improving decisions about health, wealth, and happiness (2008).

7 See Pasquale, Frank, Tech Platforms and the Knowledge Problem, 11 am. aff. j. 3–16 (2018), https://americanaffairsjournal.org/2018/05/tech-platforms-and-the-knowledge-problem/.Google Scholar

8 Others have come to similar conclusions about the nature of self, mind, and society. See e.g., george herbert mead & charles william morris, mind, self, and society from the standpoint of a social behaviorist (1962); paul ricoeur, oneself as another (1992); Vanderstraeten, Raf, Parsons, Luhmann and the Theorem of Double Contingency, 2 J. Classical Soc. 77–92 (2007).CrossRef | Google Scholar

9 See Radbruch, supra note 3.

10 mireille hildebrandt, smart technologies and the end(s) of law: novel entanglements of law and technology (2015).

11 See h.r. maturana & f.j. varela, autopoiesis and cognition: the realization of the living (1991).

12 See Steels, Luc, When Are Robots Intelligent Autonomous Agents?, 15 robotics & autonomous systems 3–9 (1995).CrossRef | Google ScholarSee also Floridi, Luciano & Sanders, J.W., On the Morality of Artificial Agents, 14 minds & machines 349–79 (2004).CrossRef | Google Scholar

13 See f.j. varela et al., the embodied mind: cognitive science and human experience (1991).

14 On the cybernetic approach to influencing a population, see, for example, Leiser, Mark & Murray, Andrew, The Role of Non-State Actors and Institutions in the Governance of New and Emerging Digital Technologies, in the oxford handbook of law, regulation and technology 671 (Roger Brownsword et al. eds., 2017).CrossRef | Google Scholar

15 On the crucial role of language in the constitution of our eccentric nature, see, for example, Ricoeur, Paul, The Model of the Text: Meaningful Action Considered as a Text, 5 new literary hist. 91–117 (1973).CrossRef | Google ScholarCf. Cheung, T, The Language Monopoly: Plessner on Apes, Humans and Expressions, 26 language & comm. 316–30 (2006).CrossRef | Google Scholar

16 See Wolpert, David H., Ubiquity Symposium: Evolutionary Computation and the Processes of Life: What the No Free Lunch Theorems Really Mean: How to Improve Search Algorithms, 2013 ubiquity 2 (2013).CrossRef | Google Scholar

17 See Austin, J.L., how to do things with words (2nd ed.1975)CrossRef | Google Scholar; MacCormick, Neil, institutions of law: an essay in legal theory (2007).CrossRef | Google Scholar

18 See Ricoeur, supra note 15; Taylor, Charles, To Follow a Rule, in philosophical arguments165–81 (Charles Taylor ed., 1995).Google Scholar

19 Radbruch, supra note 3. See Hildebrandt, supra note 3. See also Carty, Anthony, philosophy of international law 241–45 (1st ed.2007)Google Scholar, one of the very few lawyers engaging with the relevance of Plessner’s investigation of the human condition for the law, referring to Plessner, Helmuth, the limits of community: a critique of social radicalism (Andrew Wallace trans., 1999).Google Scholar

20 See Bouthillier, Xavieret al., Unreproducible Research is Reproducible, in international conference on machine learning 725–34 (2019).Google Scholar

21 See Seaver, Nick, Captivating Algorithms: Recommender Systems As Traps, J. material culture (2018).Google Scholar.

Источник для перевода: https://www.cambridge.org/core/journals/german-law-journal/article/artificial-intelligence-of-european-union-law/B09DEEAE543D050F58F4696EB8FF2D8D/core-reader.