株式会社Citadel AI

生成AIなどAIの技術が急激に進化し、さらに医療・自動車・金融など、ミスが許されない事業分野でのAIの導入が進んでいる。その一方で、AIの信頼性にかかわる新たな課題も浮き彫りになって来ている。EU（欧州連合）では世界初のAI法が成立し、日本でも政府によるAI事業者ガイドラインが策定された。AIは万能ではなく「AIをどこまで信頼して良いのか」という疑問を人々に投げかけている。

この問いに真っ向から挑んでいるのが、株式会社Citadel AIだ。「24時間信頼できるAIをあなたに」というスローガンを掲げる日本発のグローバルスタートアップ企業で、世界を舞台にサービスを提供している。創業者の一人であり、CEOの小林裕宜氏にAIの信頼性について伺った。

「AIを天まで届く巨大なパチンコ台と仮定しましょう。パチンコ台には沢山の釘が立っていますが、この釘がAIでいうところのパラメータです。この調整によって結果が大きく変化します。パチンコ玉はいわばAIの入力データに相当します。玉を入れると、いくつもの釘に弾かれながら落ちて行きますが、なぜその玉が、思った場所に入ったのか入らなかったのか、理由は説明できないですよね。AIの場合もまさに同様です。ある入力に対して、なぜAIがそういう結果を出したのか、パラメータを見ただけでは容易には分かりません。
従来のシステムの場合は、人間がフローチャートを作って、それに合わせてプログラミングしていたので、出力理由はフローチャートを見れば分かります。一方AIの場合は、AI自身が学習データからパターンを自動学習し、それを大量のパラメータに落とし込みます。人間が目でみて分かるようなフローチャートは存在しません。このため、AIの思考過程を人間が理解することは非常に困難です。実際にGoogleやAmazon、テスラといった大企業でも様々な問題に直面しています。」

そう話す小林氏が率いる同社は、2020年12月に設立されたばかり。総合商社に勤務していた小林氏がアメリカに駐在していた際、共通の知人を通じて知り合ったのが、共同創業者でありCTOのKenny Song氏だ。当時Kenny氏は、世界最大手のインターネット事業会社のシリコンバレー本社において、AI開発の中枢研究機関のプロダクトマネージャーとして活躍していた。小林氏は以前よりAI領域に興味があったことからKenny氏と意気投合し、Citadel AIの創業に至ったという。なお、社名にある「Citadel」には、城・砦という意味がある。ここには、「人間をAIから守る最後の砦になる」という思いが込められている。

現在同社では、２つのプロダクトを提供している。AIを自動検証し品質改善を高速化する『Citadel Lens』と、AIを継続的に自動モニタリングしてアラートする『Citadel Radar』だ。

『Citadel Lens』は、AIの開発・学習段階で使用するものであり、本番に向けた模擬テストをイメージすると良いだろう。AIに大量の問題集を解かせることで、AIの苦手領域をあぶり出すシステムだ。一方『Citadel Radar』は、開発段階とは異なる本番環境において、AIが不適切な出力をしていないか常時モニタリングし、異常を検知しアラートしてくれるシステムだ。従来型の数値や画像を用いたAIから、最近の生成AIまで、さまざまなAIに汎用的に適用することができる。

同社は、国際的な規格開発と認証分野で世界をリードするBSIに正式採用された実績を持つ。BSIはISO等の国際標準を作成する役割を持ち、その認証も担っている100年以上の歴史のある企業だ。そのBSIがAIの認証事業への新たな参入に備え、世界中のスタートアップ54社を集めて選考を実施。1年間にわたる技術検証を経て、同社が唯一採択されたのだ。

「当社の技術力は世界でもトップレベルだと自負しています。また、少数精鋭なのでスピード感を持って開発できることも評価された理由の一つだと思います。実際に大手メーカーの方とお話ししている中で、“うちで開発するとしたら3カ月かかるけど、Citadel AIなら1週間でできるね”と言われたほどです。」（小林氏）。

「AIの信頼性」にかかわる巨大市場が、今まさに立ち上がろうとしている。海外ではすでに本格的にAIを事業導入している大企業も数多くあり、信頼できるAIに対するニーズが顕在化している。日本でも2024年4月に政府がAI事業者ガイドラインを公表したこともあり、AIガバナンスに対する関心が、大手企業を中心に急速に高まっていると小林氏は話す。

「EUのAI法が定めるリスク分類の中に、ハイリスクAIというカテゴリーがあります。例えば医療、自動運転、人事採用等の現場で活用されるAIなど、人間の生命や社会安全にかかわるAIです。こうしたハイリスクAIを使った製品やサービスを提供する企業は、第三者評価を受けることが義務付けられ、万が一問題を起こした場合には、巨額の制裁金が課せられることになります。
インターネットに接続するには、ウイルス対策ソフトが必須であるのと同様、AIを利用するにあたっては、信頼性を担保するツールを導入することが、これからの社会・経済にとって、当たり前のことになるでしょう。」（小林氏）。

同社は、2020年12月に設立されたばかりだが、既に世界中から2,000人以上の応募があるという。その理由は、同社が挑んでいる“信頼できるAIの社会実装の実現”にある。トップクラスのエンジニアであればあるほど、この課題に挑みたいと思うのだ。

そんな同社には、現在15名の精鋭メンバーが在籍している。国際色豊かな職場だ。「世界の最先端AI企業での現場で、大規模なAIを開発し、AIの課題とまさに実戦で闘ってきたエンジニアが集まっていることが強み」と小林氏は話す。グローバルな環境の中で経験を積み、自信を持ったエンジニアが集結しているため、お互いを尊重し助け合うカルチャーが根付いている。

「週1〜2回は全員で直接顔を合わせるようにしていますが、それ以外はオンラインで繋がっています。当社の特徴は、オープンかつフラットな環境です。いつでも質問できますし、ディスカッションも活発に行われています。海外で働いていたメンバーも多いので、それが当たり前なところもあるのです。また、年長者や年次を気にして忖度するということは200%ありません」（小林氏）。

また、同社の魅力について小林氏は次のように語る。
「AIのスタートアップ企業の多くが手掛けているのは、AIを活用したアプリケーションの個別開発です。私達が行っているのは、そうしたAIのシステムを横ぐしして検証し、品質を改善する汎用的なツール開発であり、その点が大きく異なります。個別アプリケーション開発の分野でビジネスを伸ばすには、それに応じた多くの人材とコストが必要です。私達のプロダクトは、プラットフォームとなる汎用システムです。スケールメリットの余地が大きい一方、開発には非常に専門的な実戦経験が必要になります。例えるなら、私達は経験豊富なAI向けの専門医師集団といったところでしょうか。こうした実戦経験で鍛えられたエンジニア陣と共に、世界を目指せることは、非常に貴重な経験だと思います。」

日本にいながらにして、グローバル企業で数々の困難を乗り越えてきたであろう、経験豊かなエンジニア集団の一員となり、自分の技術力を試すことができる機会はそう多くはない。そしてその経験は、成功も失敗も含めて、間違いなく今後の人生にプラスとなるだろう。