ジョナサン・ダムブロット、Cranium AIのCEO兼共同創設者- インタビューシリーズ

'Jonathan Dambrot, CEO and Co-founder of Cranium AI - Interview Series'

ジョナサン・ダンブロットは、Cranium AIのCEO兼共同創設者であり、サイバーセキュリティとデータサイエンスチームがシステム、データ、またはサービスにどのようにAIが影響を与えているかを理解するために企業を支援しています。

ジョナサンは、KPMGの前パートナーであり、サイバーセキュリティ業界のリーダーであり、ビジョナリーです。KPMGの前には、PrevalentをGartnerとForresterの業界リーダーとなるよう導き、2016年末にInsight Venture Partnersに売却される前に、サードパーティリスク管理の業界リーダーとなりました。2019年には、PrevalentのCEO職を新しいリーダーシップのもとで成長を続けるために移行しました。彼は多くの出版物で引用され、IT、情報セキュリティ、コンプライアンスのトレンドについて定期的にクライアントグループに対して講演しています。

Cranium AIの創設ストーリーを共有していただけますか？

私は2021年6月ごろ、KPMGのパートナーとしてグローバルなサードパーティセキュリティサービスを率いていた時に、Craniumのアイデアを思いつきました。私たちは最大のクライアントのためにAIを活用したソリューションを構築・提供していましたが、敵対的な脅威からそれらを保護するための何もしていないことに気付きました。そこで、私は最大のクライアントのサイバーセキュリティリーダーに同じ質問をしましたが、返ってきた答えは同じくらいひどかったです。セキュリティチームの多くはデータサイエンティストとさえ話したことがなく、技術に関する言語がまったく異なり、企業全体にわたるAIの可視性がまったくありませんでした。これらすべてが、規制の着実な成長と組み合わさり、AIにセキュリティを提供するプラットフォームを構築するきっかけとなりました。私たちはKPMG Studioインキュベーターと協力し、これらの大企業のニーズに応えるために開発をガイドするためのデザインパートナーとして最大のクライアントを参加させました。今年の1月、Syn Venturesがシード資金を提供し、私たちはKPMGから独立し、2023年4月にステルスモードから出てきました。

• なぜすべての企業がAI画像生成器を使用すべきなのか
• 表現力豊かなブール式を使用した説明可能なAI
• リアルワールドのMLOpsの例：Brainlyでのビジュアル検索のためのエンドツーエンドのMLOpsパイプライン

Cranium AIカードとは何であり、どのような重要な洞察を提供するのですか？

Cranium AIカードは、組織がAIモデルの信頼性とコンプライアンスに関する情報を効率的に収集・共有し、クライアントや規制当局と共有し、ベンダーのAIシステムのセキュリティに対する可視性を得ることができるようにします。最終的には、セキュリティとコンプライアンスチームに、サプライチェーン内のAIのセキュリティを視覚化・監視する能力を提供し、自社のAIシステムを現在のおよび将来のコンプライアンス要件とフレームワークに適合させ、そのAIシステムが安全で信頼性があることを簡単に共有することを目指しています。

このソリューションによって解決されるAIに関する信頼問題のいくつかは何ですか？

人々は一般的に、特に彼らの日常のワークフローが何らかの形でAIによって影響を受けるようになるにつれて、使用しているAIの裏側を知りたいと思います。私たちは、クライアントに、彼ら自身の顧客から受けるであろう質問に答える能力を提供することを目指しています。「これはどのように統治されていますか？」、「データとモデルを保護するために何が行われていますか？」、「この情報は検証されていますか？」などです。AIカードは、組織がこれらの質問に迅速に対応し、自社のAIシステムの透明性と信頼性を示すことができるようにします。

2022年10月、ホワイトハウス科学技術政策局（OSTP）は、AIの権利に関するブループリントを公開し、責任あるAIの使用に向けた指針を提供しました。この法案のメリットとデメリットについて、個人的な意見を述べていただけますか？

ホワイトハウスが責任あるAIの指針を定義するための第一歩を踏み出したことは非常に重要ですが、個人だけでなく、組織もAIベースの意思決定に対して異議を唱えることを心配している場合にもガイダンスを提供するには十分ではないと考えています。将来の規制ガイダンスは、AIシステムの提供者だけでなく、ユーザーも安全かつ安全な方法でこの技術を理解し活用できるようにする必要があります。最終的な利点は、AIシステムがより安全で包括的で透明になることです。ただし、将来の規制に備えるためのリスクベースのフレームワークがない場合、透明性と説明性の要件を満たすことが技術的に不可能な場合、イノベーションのペースが遅くなる可能性があります。

Cranium AIは、この権利法案を遵守するために企業をどのように支援していますか？

Cranium Enterpriseは、安全で安全なシステムの開発と提供を支援し、これは権利法案の最初のキープリンシプルです。さらに、AIカードは、彼らのAIシステムが実際にどのように機能しているか、どのデータを使用しているかについての詳細を共有することで、組織が通知と説明の原則を満たすのを支援します。

NIST AIリスク管理フレームワークとは何ですか？Cranium AIは、このフレームワークにおける企業のAIコンプライアンス義務を達成するのにどのように役立ちますか？

NIST AI RMFは、AIに関連する個人、組織、社会のリスクをよりよく管理するためのフレームワークです。これは、他のフレームワークと非常に類似した構造に従っており、AIのリスク管理プログラムの成功の成果を概説しています。私たちは、当社のAIカードをフレームワークで概説された目標にマッピングし、企業のAIシステムがフレームワークとどのように一致するかを追跡するための支援を行っています。また、既に多くの情報を収集している当社のエンタープライズプラットフォームを使用することで、一部のフィールドを自動的に入力および検証することができます。

EU AI法は、最近の歴史においてもっとも重要なAI法規の一つですが、EU以外の企業もこれに従うべきですか？

データプライバシーのためのGDPRと同様に、AI法はグローバル企業がAIシステムを開発・運用する方法を根本的に変えます。EU外に拠点を置く組織も、EU市民の利用や影響を受けるAIシステムは要件の対象となるため、要件に留意し、従う必要があります。企業の管轄地に関係なくです。

Cranium AIはEU AI法にどのように対応していますか？

Craniumでは、AI法の開発の初めからその進展を追っており、当社のAIカード製品の設計を調整して、企業がコンプライアンス要件を満たすのをサポートしています。AI法に対する非常に早い認識とその間の進化により、私たちは素晴らしい先行スタートを切っていると感じています。

企業にとって責任あるAIを優先する理由は何ですか？

AIがすべてのビジネスプロセスと機能に組み込まれる速度は非常に速く、責任を持たずに進めるとすぐに事態がコントロール不能になる可能性があります。AI革命の初めに責任あるAIを優先することで、企業はより効果的にスケーリングし、後に重大な障害やコンプライアンスの問題に直面することなく進むことができます。

Cranium AIの未来のビジョンは何ですか？

私たちは、Craniumが安全で信頼性のあるAIの真のカテゴリーキングになることを目指しています。すべてを解決することはできませんが、倫理的な使用や説明可能性といった複雑な課題については、責任あるAIの他の分野のリーダーと提携し、エコシステムを推進して、クライアントが責任あるAIのすべての領域を網羅するのを簡単にすることを目指しています。また、革新的な生成AIソリューションの開発者と協力して、これらの機能のセキュリティと信頼性をサポートすることも目指しています。私たちは、世界中の企業が安全で信頼性のある方法で革新を続けることができるようにするために、Craniumを活用したいと考えています。

素晴らしいインタビュー、さらに詳しく知りたい方は、Cranium AIを訪問してください。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!