イギリス政府、物議を醸すAI「殺人予測」ツールを開発中

英国政府が、将来的に誰が殺人を犯すかをAIで予測するという物議を醸すプロジェクトに取り組んでいます。

そのプログラムの存在は、監視団体Statewatchが情報公開請求を通じて明らかになりました。

彼らの調査結果は、機密性の高い個人データが使用されていることを示唆しています。これには、健康記録、精神健康情報、依存症の歴史、そして何の犯罪も犯していない人々に関するデータが含まれています。

Statewatchの報告によれば、法務省（MoJ）がこの計画を主導し、重大な犯罪の発生を防ぐために人々の既存の公的記録を調査しています。

元々「殺人予測プロジェクト」と名付けられていたこのプロジェクトは、現在「リスク評価の改善のためのデータ共有」と呼ばれています。プロジェクトは現在研究段階にありますが、キャンペーン団体やプライバシー擁護者からは懸念の声が上がっています。これはStatewatchが報じています。

しかし、当局者はこれを否定しています。ガーディアン紙によれば、法務省のスポークスパーソンは次のように述べています：“このプロジェクトは研究目的のみで行われています。すでに保有しているHM刑務所および保護観察サービスや警察の有罪者に関するデータを使って設計され、保護観察中の人々が重大な暴力行為を起こすリスクをより良く理解することを助けています。適切な時期に報告書が公表される予定です。”

Statewatchによると、グレーターマンチェスターの警察は最大50万人のデータを共有しました。これには被害者、容疑者、そして脆弱な状況にある人々のデータが含まれています。

Statewatchの研究者であるソフィア・ライアルは、このプロジェクトについて強く批判しており、「法務省がこの殺人予測システムを構築しようとする試みは、政府がいわゆる犯罪「予測」システムを開発しようとする意図の最新の冷酷でディストピア的な例だ」と述べています。

彼女はこのシステムが人種や階級の差別を深めると警告しました。「この最新のモデルは、私たちの機関的に人種差別的な警察と内務省からのデータを使用することで、刑事法制度の基盤となる構造的差別を強化し、拡大するでしょう。」

「精神健康、依存症、障害に関するこのような敏感なデータの使用は非常に侵害的であり、警戒すべきです。」と彼女は付け加えました。

政府は、このようなツールが保護観察サービスのリスク評価や暴力犯罪の防止方法を改善する可能性があると主張しています。しかし、批評家たちは、このシステムが欠陥のある偏ったデータにより、人々を不公平に潜在的な殺人者としてレッテル貼りする可能性があると指摘しています。

政府は、これらのツールが保護観察サービスのリスク評価能力を向上させ、暴力犯罪の発生を防ぐことに役立つと主張しています。しかし、批評家たちは、システムが悪質な偏見のあるデータを通じて人々を潜在的な殺人者とレッテル貼りするリスクがあると警告しています。

開発中であるにもかかわらず、Statewatchの報告によれば、文書にはそのシステムの「将来的な運用」について言及があるという。これが現実の警察の決定に間もなく利用される可能性があるという懸念が高まっている。