欧州刑事警察機構(Europol: European Union Agency for Law Enforcement Cooperation)はこのほど、「ChatGPT - The impact of Large Language Models on Law Enforcement」において、ChatGPTの悪用の可能性について、一連のワークショップで得られた主な結果の概要を伝えた。
Europolは各国法執行機関に対し、LLMについて理解を進めること、犯罪への悪用を予測して防止に努めること、この技術を活用するスキルの開発に着手すること、利害関係者と関連を持つことなどをアドバイスしている。
ChatGPTに代表される大規模言語モデル(LLM: Large Language Model)技術を活用したサービスはすでに生活を変えつつある。Europolは、一部の出力はまだ基本的なものであるが、以降の世代はより多くのデータにアクセスし、より高度な問題を理解して解決できるようになり、膨大なアプリケーションとの統合が進む可能性があると指摘している。
また、Europolは、ChatGPTがテロや児童性虐待などの特定の犯罪から犯罪者の匿名化まで、多くの犯罪行為を促進可能な技術であることに言及。有害な出力を促進するように訓練された闇の大規模言語モデル(LLM)が将来の重要な犯罪ビジネスモデルになる可能性があると説明し、監視を行うことが重要になると指摘している。これは法執行機関にとって新たな課題であり、脅威アクターが予備知識を持たずに犯罪行為を行うことが、これまで以上に容易になることを意味しているとして注意を呼びかけている。
ChatGPTのような大規模言語モデル(LLM)技術は犯罪者に対しても利便性を提供することになる。Europolはこうした状況に対応するため、法執行機関は常に最善に立ち続ける必要があるとし、ChatGPTなどの技術について認識を深めるとともに、悪用を防止する方法の開発や技術を利用するスキルの開発、関係者と密に連絡を取る体制を構築することなどを求めている。