Этот американский законодатель хочет более тщательного изучения алгоритмов, используемых в уголовных процессах

Представитель Марк Такано (D CA) говорит: «Права интеллектуальной собственности не должны быть в состоянии превзойти надлежащую процедуру».

AP Photo / J. Скотт Яблоко-белый

Этот американский законодатель хочет более тщательного изучения алгоритмов, используемых в уголовных процессах

Кэтрин МэтэчичСеп. 23, 2019, 16:10

С момента своего появления в 1980-х годах доказательства ДНК стали «золотым стандартом» судебных заседаний США, что привело к осуждению и оправданию тысяч обвиняемых преступников. Но эксперты изо всех сил пытаются проанализировать ухудшенные или загрязненные образцы, и многие начали использовать сложное программное обеспечение вероятностного генотипирования, чтобы оценить вероятность того, что ДНК подозреваемого соответствует ДНК на месте преступления. Такие так называемые криминалистические алгоритмы не редкость: они все чаще используются для оценки совпадений всего: от отпечатков пальцев до стволов оружия и лиц на кадрах с камеры безопасности.

Адвокаты защиты редко имеют доступ к исходному коду или другой информации, которая объясняет, как работает такое программное обеспечение, которое часто является частным. Это связано с тем, что компании опасаются, что предоставление таких данных может раскрыть коммерческую тайну или другие виды интеллектуальной собственности. Но непрозрачность вызывает обеспокоенность по поводу справедливости и прозрачности.

На прошлой неделе представитель Марк Такано (D CA) представил закон, который облегчит обвиняемым, обвиняемым в совершении федеральных преступлений, доступ к криминалистическим алгоритмам, а также потребует от разработчиков компьютерного криминалистического программного обеспечения соответствия минимальным стандартам, установленным Национальным Институт Стандартов и Технологий (НИСТ).

ScienceInsider встретился с Такано, чтобы обсудить новый законопроект. Это интервью было отредактировано для краткости и ясности.

В: Какие проблемы решит этот законопроект?

A: Что мы знаем, так это то, что людей часто осуждают по вероятностным моделям, которые являются единственным доказательством по делу. Люди могут быть заключены в тюрьму, они могут даже потерять свои жизни [только из-за] этой формы косвенных доказательств. И мы также знаем, что компании, которые предлагают эти технологии, не хотят раскрывать исходный код или многое объяснять о базовых данных и ставить их под сомнение защиты. Мы думаем, что есть фундаментальная проблема с этим. Права интеллектуальной собственности не должны быть в состоянии превзойти надлежащую процедуру.

Q: Какие из этих криминалистических технологий вас больше всего волнуют?

A: ДНК-доказательства [из] вероятностного программного обеспечения генотипирования для анализа ДНК. Он выглядит как железная правда, так же, как много десятилетий назад - тест на детекторе лжи [делал]. Научные атрибуты могут привести к [ложной уверенности] присяжных и судей. Для присяжных и судей вполне уместно и действительно необходимо понять границы технологии и то, как она работает.

В: Этот законопроект призывает NIST тестировать программное обеспечение для криминалистики. Что бы это было тестирование?

Ответ: Очевидно, что их аналитики посмотрят на технологию, чтобы оценить, какие есть ограничения, каковы возможности, и [они] посмотрят на то, что наука говорит о данных и как работают эти алгоритмы. Мы бы посоветовали им [спросить компании]: «Проверяли ли вы их, и можете ли вы показать нам данные? Существует ли коэффициент ошибок, который демонстрирует непропорциональное влияние на меньшинства, например, на то, что меньшинства ложно идентифицированы? ». Мы считаем, что каждый аспект должен рассматриваться с точки зрения того, как эти системы могут выйти из строя.

Q: Что вдохновило этот законопроект?

Ответ: Я много говорю о тюремном заключении моей семьи во время Второй мировой войны и японско-американском интернировании. Какая связь там? Это связано с правами на неприкосновенность частной жизни, это связано с надлежащей процедурой. В то же время это помогает правительству быть в курсе технологий и помогает Конгрессу понимать новейшие технологии. Опасность заключается в том, что - будь то системы голосования, которые выглядят яркими и блестящими, или милые маленькие черные ящики, которые дают результат - граждане, присяжные, судьи, прокуроры и адвокаты защиты [не] понимают, как эти системы работают.

В: С какими проблемами сталкивается этот законопроект?

Ответ: Я думаю, что это общая проблема - попытка привлечь внимание членов, внимание коллег и заставить ключевых членов подкомитета поднять ее и понять основную проблему. Я думаю, что все это очень достижимые вещи. Другим препятствием является то, что у судебного комитета [Палаты представителей] сейчас много работы. [Такано имел в виду расследование импичмента против президента Дональда Трампа.] Это более привлекающие внимание темы, которые могут быть моим препятствием на данный момент. Но я думаю ... это тот случай, когда американский народ понимает [необходимость], поэтому [усилия] могут быть двухпартийными.