Судья в США попался на использовании нейросетей при вынесении приговора
Судья в США попался на использовании нейросетей при вынесении приговора
В США судья был обвинен в использовании ИИ при вынесении приговора — он ссылался на вымышленных истцов и несуществующие дела.
Хорошо, что это не касалось жизней людей. А то я уже представила, как ИИ выносит смертный приговор за переход дороги в неположенном месте.
В конце июля 78-летний окружной судья Генри Уингейт из Миссисипи издал запрет, приостанавливающий действие закона штата о многообразии и инклюзивности в образовании. Юристы, изучившие его, обнаружили множество фактических ошибок, после чего приказ был заменен — но лучше от этого не стало.
Так, в первоначальной версии документа фигурировали две организации, которые никогда не принимали участие в судебном процессе. Кроме этого, в постановлении судья процитировал фразы, якобы из действующего в штате закона о дискриминации по половому признаку, — в официальных документах их никогда не было.
В исправленной версии запрета судья продолжил ошибаться. Он сослался на прецедент по делу от 1974 года — журналисты Mississippi Today не смогли найти каких-либо подобных публикаций в судебных базах.
На самом деле я не знаю, как объяснить предысторию этого дела. Я чувствую себя Алисой в Стране чудес.
Кристина Фрохок - профессор юридического факультета Университета Майами.
Сам Уингейт никак не прокомментировал ситуацию, однако эксперты уверены, все недочеты — это явные «галлюцинации» искусственного интеллекта. И, учитывая, как часто языковые модели вводят нас в заблуждение, выдумывая какие-либо факты, склонна этому верить.
Распечатать
