UMP-JUST会員企業の有志による勉強会「AIモデルの品質評価と改善」発案・企画セミナー『信頼できるAIをどう構築するか- Citadel AI 事例紹介』を開催いたしました。学生、教職員及びUMP-JUST会員企業の方約40名が講演とディスカッションに参加しました。

　勉強会「AIモデルの品質評価と改善」においては、会員各社がビジネスとして製品やサービスにAIモデルを組み込んで顧客に提供するにあたり、その「品質」の考え方（評価手法、倫理・公平性、保証、説明可能性等）が共通の課題として取り上げられておりました。
　このような課題意識から、本セミナーでは、AIの異常を自動検知し、品質を保つ仕組みをソリューションとして提供している東京大学スタートアップCitadel AI 社の小林裕宜氏（CEO & Co-Founder）を講師にお招きしてご講演をいただきました。

　講演では、AIの「品質」をめぐる日本や欧米における規制・ガイドラインの状況に触れつつ、製品やサービスとしてAIモデルを開発／運用する際に直面する様々なリスクへどのように対応すべきかについて説明がありました。
　AIモデルの正解率の裏に潜む様々なバイアスや再学習に伴う精度劣化、敵対的データによるセキュリティリスクといった話題にも触れられ、大変興味深い内容でした。
　また、以上のような様々なリスクに対応するためのソリューションとしてCitadel AI社が提供するサービスについてもご紹介がありました。

（左図：Citadel AI社 CEO 小林氏による講演の様子）

　その後のパネルディスカッションでは、なかなか定量化・数理モデル化することが難しいAIの「品質」への向き合い方やAI規制のあり方・考え方について積極的に意見交換がなされ、議論が深まりました。