### コーピーがNEDOの「AIセーフティ強化に関する研究開発」に採択

株式会社コーピー（以下「コーピー」）が、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が主催する「AIセーフティ強化に関する研究開発」に採択されたことが発表されました。このプロジェクトは、生成AIをはじめとする先端AIの安全な社会実装を目指し、AIシステムのリスクを評価・管理するための基盤技術の開発を行うものです。今回は、コーピーが提案した内容や、その新規性について詳しく見ていきましょう。

#### 背景と目的

近年、ChatGPTなどの大規模言語モデル（LLM）やマルチモーダルAIの普及により、生成AIが社会のインフラに浸透しています。しかし、その一方で誤情報の生成やプライバシー侵害といったリスクも顕在化しており、これに対応するための国際的な規制が急務とされています。特に、2026年には欧州で「AI Act」が施行される予定であり、AIの利用にはリスク評価や適合証明が法的に求められるようになります。これらの背景から、コーピーは国際的な基準に即応できる体制の整備を進めています。

#### コーピーの役割

コーピーは、生成AIモデルを含むAIシステムの運用計画および管理に関する実装ガイドラインの策定を担当します。このプロジェクトでは以下の取り組みを行う予定です。

1. **運用管理プロセスの整理**: ISO/IEC 42001に基づき、AIシステムの運用管理に関するプロセスを整理します。
2. **評価指標・テストプロトコルの開発**: 生成AIシステムに適用可能な評価指標やテスト方法を開発します。
3. **報告書テンプレートの整備**: 安全性評価の結果を標準化するための報告書テンプレートを整備します。
4. **実証実験・フィードバックのまとめ**: 上記の内容を実証実験や企業からのフィードバックを通じて実装解説にまとめ、AIガイドラインに反映させる予定です。

これにより、企業は自社のAI製品・サービスの安全性や信頼性を客観的に示す手段を得ることができ、国際基準に則った形でAIを活用することが可能になります。

#### 今後の展望

コーピーは、本事業を通じてAIセーフティ評価技術の国際標準化と社会実装に貢献し、企業が安心してAIを活用できる環境の整備を目指しています。その先には、「ミッションクリティカルなAIを実現する」というビジョンが掲げられており、これは非常に意義深いものです。

コーピーのアプローチは、単なるAI技術の開発に留まらず、社会の期待に応える形でAIの安全性を確保するための基盤を築こうとしています。特に、XAI（説明可能AI）技術やQAAI（AI向け品質検証）技術を駆使した品質保証の強化が期待されています。

#### まとめ

コーピーの取り組みは、AI技術の発展とともにその安全性を高めるための重要な一歩となるでしょう。特に、国際標準に即したセーフティ評価の枠組みを整備することで、企業がAIを安心して活用できる環境を提供することが期待されます。今後の展開に目が離せません。コーピーはその先駆者として、AIの未来を切り拓いていくことでしょう。