Engineerable AI Project

eAIプロジェクトは2024年度にて完了となり、2025年度は延長フェーズとして成果の展開・実証を進めています。本ページはアーカイブとなります。成果の活用に興味がある方は、国立情報学研究所石川冬樹（ f-ishikawa [a] nii.ac.jp ）あるいはプロジェクトメンバー（下記）にお問い合わせ下さい。

成果アクセス

主な研究成果については、eAIプロジェクト成果公開シンポジウム（2025年1月）の公開資料をご参照下さい。

そのほか、過去のイベント・資料については本ページの末尾にもアーカイブリンクを残しています。

プロジェクト概要

本プロジェクトにおいては、医療や自動運転などディペンダビリティが重要となる領域を見据え、細やかなニーズに応えるAIシステムのための “Engineerable AI” (eAI) 技術に取り組んでいます。

本プロジェクトにおいては、AIシステムのための機械学習、特に深層学習における二つの技術課題に着目しています。第一の点として、大量データへの依存性があります。AIシステムの振る舞いはデータから訓練を通して構築されますが、しばしばデータが少ない状況への対応が弱くなってしまいます。一方でデータ少ない状況であっても、安全性の観点で重要であったり、人間の専門家の「苦手領域」をカバーするために重要であったりします。第二の点は、システムの振る舞いの制御困難性です。訓練に用いるデータを追加したり変更したりすることでAIシステムの更新を行いますが、これにより振る舞い全体が変わってしまい、結果が非常に不確実で予測不可能となります。特に、継続的な改善を行おうとする際に、ある部分を直そうとして再訓練を行うと、別の部分がうまくいかなくなってしまうということがあります。

本プロジェクトにおいては、これらの技術課題を踏まえ、細やかなニーズに応えるAIシステムのための “Engineerable AI” 技術に取り組んでいます。一つの方向性としては、データだけから重要な特性を学ぶのではなく、人間の知識を埋め込んでAIを構築する技術に取り組んでいます。もう一つの方向性としては、AIの挙動やその良し悪しに関する知識を調べることで、その挙動を望ましい形に修正する技術に取り組んでいます。

本プロジェクトではこれらの “Engineerable AI” 技術に対する概念実証（POC）として、品質が最重要となるシステムの代表例である医療および自動運転の二領域での実証に取り組みます。

Engineerable AI project はJST未来社会創造事業による支援により実施されています。

参加研究機関・グループリーダー

国立情報学研究所（石川冬樹）
東京科学大学（鈴木賢治）
早稲田大学（鷲崎弘宜）
北海道大学（松原崇）
九州大学（趙建軍）
東京大学（馬雷）
国立がん研究センター（三宅基隆）
慶應大学（陣崎雅弘）

その他多数の企業・病院の研究者・実務者の方々にご協力いただいております。

過去のイベント

Page updated

Report abuse