Подавляющее большинство разговоров о будущем искусственного интеллекта в праве так или иначе сводится к тому, что роботы освободят юристов от рутинной и изнуряющей работы, а люди смогут больше заниматься творческой деятельностью, только интересными «кейсами». Такие рассуждения вроде бы неглупых людей мне напоминают классический мультсериал «Джетсоны». В нем домашний робот Роза делает всю скучную работу, а члены семьи летают на космических кораблях и развлекаются себе в удовольствие. Прошло почти шестьдесят лет, а робота, на которого можно было бы возложить ведение домашнего хозяйства, нет и в помине. И, наверное, еще очень долго не будет: это не автомобиль с автопилотом, задача намного сложнее. Думаю, что можно сколько угодно фантазировать о сияющем будущем нейроинтерфесов и колонизации Марса, но драить кафельную плитку в ванной или собирать разбросанные по комнате детские игрушки будут люди, а не роботы. Интеллект потому называется искусственным, что он существует в смоделированной среде. В этой среде то, что считалось результатом творческого озарения, интеллектуального поиска, вдохновения, превращается в более или менее изощренный перебор вариантов. Рано или поздно, хотя скорее рано, человек в этом процессе окажется лишним. Магия практических приложений искусственного интеллекта состоит как раз в переводе реальности в модели. В чем человек останется надолго незаменим, так это в подготовке данных для таких систем, которые сами неспособны воспринимать, обрабатывать и структурировать информацию так, как делаем это мы. Боюсь, что уделом большинства людей останется однообразная, нудная и неблагодарная работа по разметке баз данных и обучающих примеров, в лучшем случае — контроль результатов обучения, тестирование и перепроверки. Изо дня в день миллионы, миллиарды, триллионы тестов. Год назад в прессе писали о перспективном стартапе, который получил сто миллионов долларов инвестиций, продемонстрировав применение искусственного интеллекта в бухучете. И действительно, что в этом сложного: находи цифры, заноси в правильные колонки. Оказалось, что за успехом компании стоял банальный дешевый человеческий труд из бедных стран, который выдавался за феноменальное технологическое достижение. Несмотря на анекдотичность этой истории, она, как мне кажется, куда больше проливает свет на будущий симбиоз людей и роботов, чем маркетинговые обещания или пророчества о восстании машин. Одну отрасль искусственный интеллект уже превратил в руины. Это перевод. Качественный требуется не всегда, а в соревновании с компьютером отличные от нуля шансы на получение заказа имеет только тот, кто за гроши делает много, а думает при этом совсем мало. Часто перевод, сделанный человеком, оказывается хуже автоматического. Такой вот тест Тьюринга. В том же направлении движется и журналистика. От редакторов и авторов статей уже не требуется эрудиция, вдумчивость и понимание. Важно только мастерство заголовка безотносительно собственного содержания текста; оптимизация идет по одному параметру — количеству кликов и рекламных показов. Но, уверен, в недалеком будущем таких редакторов с успехом заменят роботы и вряд ли эта перемена вызовет у меня чувство сострадания. Кто-то может сказать, что подобные рассуждения — это современный извод луддизма. Технологии уничтожали одни рабочие места, но ведь создавали и новые, экономика росла, производительность труда и благосостояние общества увеличивались. Прогресс-де не остановить. Это все так, но современные исследования показывают, что луддиты не были так сильно неправы. Технологические новшества, внедрявшиеся в промышленность, снижали требования к квалификации работников и, соответственно, их доходы. Богатели другие: новый немногочисленный класс квалифицированных специалистов и сами промышленники. А перед бывшими свободными ткачами или ремесленниками, которые могли сами распоряжаться своей жизнью, новая экономика оставляла только одну возможность: стать легко заменяемыми придатками станков. Юристы, считающие конкретные знания излишними, полагающие, что успех в будущем им обеспечит «креативность», могут оказаться в подобной ситуации: они станут обслуживать потребности искусственного интеллекта, расставляя в нужных местах теги и делая аннотации данных. А думать за них будут роботы, потому что только у роботов будут необходимые знания.
3Upvotes
1Remind
thumb_upthumb_downchat_bubble

More from Arkady Alexandrov

Пишу статью об использовании методов компьютерной лингвистики и машинного обучения в легиспруденции.¹ Читаю и цитирую новейшие книжки и статьи, буквально только что вышедшие. Но у меня лет с шести есть привычка заучивать латинские выражения и крылатые фразы, а потом непринужденно вставлять их к месту и не к месту, не всегда понимая смысл. Так и тут: без чего-то подобного моя статья обойтись, конечно, не может. Открыл словарь мудрых латинских изречений,² подобрал дюжины полторы, стал искать оригинальные источники. Что-то отвалилось само, что-то было переведено неточно, что-то было сказано в другом смысле или по другому поводу. В общем, осталась две фразы, которые мне очень-очень хотелось воспроизвести. Конечно, Гугл знает если не все, то очень многое. Проблема в том, что мы не знаем, что знает Гугл и где это находится, а он не знает, что нам нужно, пытается угадать, поэтому приносит то, что ему кажется наиболее ходовым и востребованным. Пришлось пролистать десятки ссылок на аналогичные словари юридических премудростей, как относительно новых, так и старых, но почти нигде не встречалось указание на первоисточник. Наконец, где-то сослались на комментарии Джеймса Кента.³ Другой бы на моем месте успокоился, но я подумал: разве мог американец излагать свои мысли на латыни в такой афористичной форме? Пришлось искать дальше. Не утомляя подробностями, сообщу о результате. Нужные мне латинские фразы нашлись в одном из важнейших трудов Самуэля фон Пуфендорфа под названием «De jure naturae et gentium» (О праве природы и праве народов), в книге пятой, главе двенадцатой. Сам он ссылается в одном месте на Институции Квинтилиана,⁴ а в другом — на Цицерона.⁵ Однако чужие мысли Пуфендорф излагает в такой изящной и точной манере, что их можно хоть сейчас кусками цитировать, а не вырывать отдельные афоризмы (которые, конечно, тоже хороши, но напоминают обглоданную кость, если знаешь, откуда взяты). Он хорошо понимает, чем норма права отличается от языковой нормы, где значение слова определяется дескриптивно, а где прескриптивно, то есть все то, что считается достижением лингвистики второй половины XX века. Единственное, что нужно было бы дополнить — это некоторые вычислительные и статистические методы, о которых я пишу. Но увидев уровень эрудиции и знания текста у юриста XVII в., я начал сомневаться, нужны ли бы ему были всякие компьютерные методы, если бы он о них узнал. Некоторые думают, что люди, которые жили до нас — сплошь дураки были. Что человечество только недавно нашло все правильные ответы, а прошлые поколения блуждали во тьме. Сталкиваясь с такими примерами человеческой мудрости прошлых веков, не могу прогнать от себя мысль, возникающую снова и снова, что несмотря на несомненное увеличение количества знания, мы скорее всего много проиграли в его качестве. ________________________ ¹ Легиспрудениция (legisprudence) или легистика (légistique) — прикладная юридическая дисциплина, занимающаяся теорией и практикой законотворческой деятельности. ² Kincl, Jaromír. Dicta et regulae iuris aneb Právnické modrosloví latinské — Praha: Univerzita Karlova, 1990. ³ Джеймс Кент (James Kent, 1763–1847) — американский юрист, автор Комментариев к американскому праву (Commentaries on American Law). ⁴ Марк Фабий Квинтилиан (ок. 35—ок. 96) — римский ритор, автор Institutionis oratoriae (Наставлений в риторике). ⁵ Academica.
Несколько лет назад я случайно наткнулся на безумно ржачное видео, в котором прославлялся воображаемый Социалистический Европейский союз.¹ И если в начале изображения революционных масс, красных звезд и праздничных салютов сопровождались звуками французской «Марсельезы», что хоть как-то можно понять, то во время апофеоза в конце отчетливо слышится мелодия «Боже, Царя храни!»² Ну, посмеялся и забыл. Если бы не еще одна подобная находка. Но теперь мне почему-то не смешно. В репортаже с открытия XII Всемирного фестиваля молодежи и студентов³ шествие с эмблемой начинается под торжественный коронационный марш Чайковского,⁴ а во время подъема флага фестиваля звучит «Патриотическая песня» Глинки.⁵ К сожалению, мне не удалось найти полную запись церемонии открытия и убедиться, отцензурировали ли произведение Петра Ильича, убрав из него музыкальный парафраз гимна Российской империи. Но сам по себе выбор организаторов вызывает любопытство: то ли это намеренная диверсия, то ли сигнал для своих, то ли предчувствие конца советской системы. Ссылки и сноски — в комментарии.
Собираю для одного текста цитаты о юристах из литературы эпох Возрождения и Просвещения. Эразм Роттердамский, Лоренцо Валла, Томас Мор, Франсуа Рабле, Джонатан Свифт… В основном юристы изображаются тщеславными дураками, надутыми, самодовольными. Они рассуждают о том, что никому не понятно, запутывают дело, извращают самые очевидные истины. Конечно, такая критика было во многом обоснована: она отражала определенный этап развития, вернее упадка, ius commune,* однако в значительной мере эти стереотипы сохраняются до сих пор. Почему? Легче всего объяснить дурную репутацию юристов тем, что в эту профессию идут люди невысоких умственных и моральных качеств. Или те, кто не может заниматься никаким полезным делом (но при этом может себе позволить получить недешевое образование), или те, то больше всего ищет собственной выгоды за счет других. Я не раз слышал в разных разговорах, что именно юристы делают право запутанным, непонятным обычным людям, потому что интерес профессионалов состоит в том, чтобы получать несоразмерные гонорары за обладание эзотерическим знанием. Само же право должно быть ясным, доступным, понятным. Великим гуманистам и просветителям было вполне очевидно, что юристы — это помеха для создания гармоничного и разумно устроенного общества. Народную массу такое объяснение тоже устраивает: можно не только винить кого-то в несправедливости этого мира, но еще и чувствовать себя выше, умнее, честнее тех, кто занимается постыдным ремеслом. Многим юристам это тоже подходит: «Да, мы такие, — говорят некоторые с гордостью, — циничные, пролганные, но платить вы нам все равно будете столько, сколько сами скажем». Если верна гипотеза о том, что право — это сверхчеловеческий искусственный разум, который подчинил себе людей, то станет понятно, что глуп и беспринципен этот самый разум. Не юристы делают право плохим, а наоборот, плохое право превращает юристов в тех, кем они оказываются. Люди же подчиняются требованиям этого разума и до поры до времени делают то, что им приказывают. Просто некоторые служат системе и в большей степени персонализируют ее качества. А любая система заботится только о себе, забота о людях — побочный эффект, вовсе не ее имманентное свойство. ________________________ * Ius commune — правовая система средневековой Европы, возникшая в результате рецепции римского права в университетах (ius civile), подъема канонического права (ius canonicum) и некоторой систематизации феодального и обычного права. Концепция, как и само название, предложена итальянским историком права Манлио Белломо (Manlio Bellomo). Не путать с англо-американским общим правом (common law), которое относительно рано отсоединилось от ius commune и представляет собой совершенно отличную правовую систему.

More from Arkady Alexandrov

Пишу статью об использовании методов компьютерной лингвистики и машинного обучения в легиспруденции.¹ Читаю и цитирую новейшие книжки и статьи, буквально только что вышедшие. Но у меня лет с шести есть привычка заучивать латинские выражения и крылатые фразы, а потом непринужденно вставлять их к месту и не к месту, не всегда понимая смысл. Так и тут: без чего-то подобного моя статья обойтись, конечно, не может. Открыл словарь мудрых латинских изречений,² подобрал дюжины полторы, стал искать оригинальные источники. Что-то отвалилось само, что-то было переведено неточно, что-то было сказано в другом смысле или по другому поводу. В общем, осталась две фразы, которые мне очень-очень хотелось воспроизвести. Конечно, Гугл знает если не все, то очень многое. Проблема в том, что мы не знаем, что знает Гугл и где это находится, а он не знает, что нам нужно, пытается угадать, поэтому приносит то, что ему кажется наиболее ходовым и востребованным. Пришлось пролистать десятки ссылок на аналогичные словари юридических премудростей, как относительно новых, так и старых, но почти нигде не встречалось указание на первоисточник. Наконец, где-то сослались на комментарии Джеймса Кента.³ Другой бы на моем месте успокоился, но я подумал: разве мог американец излагать свои мысли на латыни в такой афористичной форме? Пришлось искать дальше. Не утомляя подробностями, сообщу о результате. Нужные мне латинские фразы нашлись в одном из важнейших трудов Самуэля фон Пуфендорфа под названием «De jure naturae et gentium» (О праве природы и праве народов), в книге пятой, главе двенадцатой. Сам он ссылается в одном месте на Институции Квинтилиана,⁴ а в другом — на Цицерона.⁵ Однако чужие мысли Пуфендорф излагает в такой изящной и точной манере, что их можно хоть сейчас кусками цитировать, а не вырывать отдельные афоризмы (которые, конечно, тоже хороши, но напоминают обглоданную кость, если знаешь, откуда взяты). Он хорошо понимает, чем норма права отличается от языковой нормы, где значение слова определяется дескриптивно, а где прескриптивно, то есть все то, что считается достижением лингвистики второй половины XX века. Единственное, что нужно было бы дополнить — это некоторые вычислительные и статистические методы, о которых я пишу. Но увидев уровень эрудиции и знания текста у юриста XVII в., я начал сомневаться, нужны ли бы ему были всякие компьютерные методы, если бы он о них узнал. Некоторые думают, что люди, которые жили до нас — сплошь дураки были. Что человечество только недавно нашло все правильные ответы, а прошлые поколения блуждали во тьме. Сталкиваясь с такими примерами человеческой мудрости прошлых веков, не могу прогнать от себя мысль, возникающую снова и снова, что несмотря на несомненное увеличение количества знания, мы скорее всего много проиграли в его качестве. ________________________ ¹ Легиспрудениция (legisprudence) или легистика (légistique) — прикладная юридическая дисциплина, занимающаяся теорией и практикой законотворческой деятельности. ² Kincl, Jaromír. Dicta et regulae iuris aneb Právnické modrosloví latinské — Praha: Univerzita Karlova, 1990. ³ Джеймс Кент (James Kent, 1763–1847) — американский юрист, автор Комментариев к американскому праву (Commentaries on American Law). ⁴ Марк Фабий Квинтилиан (ок. 35—ок. 96) — римский ритор, автор Institutionis oratoriae (Наставлений в риторике). ⁵ Academica.
Несколько лет назад я случайно наткнулся на безумно ржачное видео, в котором прославлялся воображаемый Социалистический Европейский союз.¹ И если в начале изображения революционных масс, красных звезд и праздничных салютов сопровождались звуками французской «Марсельезы», что хоть как-то можно понять, то во время апофеоза в конце отчетливо слышится мелодия «Боже, Царя храни!»² Ну, посмеялся и забыл. Если бы не еще одна подобная находка. Но теперь мне почему-то не смешно. В репортаже с открытия XII Всемирного фестиваля молодежи и студентов³ шествие с эмблемой начинается под торжественный коронационный марш Чайковского,⁴ а во время подъема флага фестиваля звучит «Патриотическая песня» Глинки.⁵ К сожалению, мне не удалось найти полную запись церемонии открытия и убедиться, отцензурировали ли произведение Петра Ильича, убрав из него музыкальный парафраз гимна Российской империи. Но сам по себе выбор организаторов вызывает любопытство: то ли это намеренная диверсия, то ли сигнал для своих, то ли предчувствие конца советской системы. Ссылки и сноски — в комментарии.
Собираю для одного текста цитаты о юристах из литературы эпох Возрождения и Просвещения. Эразм Роттердамский, Лоренцо Валла, Томас Мор, Франсуа Рабле, Джонатан Свифт… В основном юристы изображаются тщеславными дураками, надутыми, самодовольными. Они рассуждают о том, что никому не понятно, запутывают дело, извращают самые очевидные истины. Конечно, такая критика было во многом обоснована: она отражала определенный этап развития, вернее упадка, ius commune,* однако в значительной мере эти стереотипы сохраняются до сих пор. Почему? Легче всего объяснить дурную репутацию юристов тем, что в эту профессию идут люди невысоких умственных и моральных качеств. Или те, кто не может заниматься никаким полезным делом (но при этом может себе позволить получить недешевое образование), или те, то больше всего ищет собственной выгоды за счет других. Я не раз слышал в разных разговорах, что именно юристы делают право запутанным, непонятным обычным людям, потому что интерес профессионалов состоит в том, чтобы получать несоразмерные гонорары за обладание эзотерическим знанием. Само же право должно быть ясным, доступным, понятным. Великим гуманистам и просветителям было вполне очевидно, что юристы — это помеха для создания гармоничного и разумно устроенного общества. Народную массу такое объяснение тоже устраивает: можно не только винить кого-то в несправедливости этого мира, но еще и чувствовать себя выше, умнее, честнее тех, кто занимается постыдным ремеслом. Многим юристам это тоже подходит: «Да, мы такие, — говорят некоторые с гордостью, — циничные, пролганные, но платить вы нам все равно будете столько, сколько сами скажем». Если верна гипотеза о том, что право — это сверхчеловеческий искусственный разум, который подчинил себе людей, то станет понятно, что глуп и беспринципен этот самый разум. Не юристы делают право плохим, а наоборот, плохое право превращает юристов в тех, кем они оказываются. Люди же подчиняются требованиям этого разума и до поры до времени делают то, что им приказывают. Просто некоторые служат системе и в большей степени персонализируют ее качества. А любая система заботится только о себе, забота о людях — побочный эффект, вовсе не ее имманентное свойство. ________________________ * Ius commune — правовая система средневековой Европы, возникшая в результате рецепции римского права в университетах (ius civile), подъема канонического права (ius canonicum) и некоторой систематизации феодального и обычного права. Концепция, как и само название, предложена итальянским историком права Манлио Белломо (Manlio Bellomo). Не путать с англо-американским общим правом (common law), которое относительно рано отсоединилось от ius commune и представляет собой совершенно отличную правовую систему.