注目すべきAIガバナンス　スタートアップ5選

AIガバナンスの必要性

AIの利活用においては、社会における差別を再生産してしまう公平性の問題や、AIの脆弱性を突いた新たなセキュリティリスク、データプライバシーの問題などが認められており、大きな社会問題となっている。また、上場企業は米国証券取引委員会（SEC）の新しい規則に準拠することが求められるようになっている。SECの規則では、発生した重大なサイバーセキュリティインシデントやリスク管理・戦略、およびガバナンスに関する重要な情報に関する年次の開示が義務づけられている。そのため、AIガバナンスという、AIの開発と利用を倫理的・法的・社会的基準に沿って監督・管理によって、AIによる事故やAI活用に伴うリスクへの対策を行う枠組みが必要とされている。AI利活用を推進する企業においては、単にAIの導入を進めるだけでなく、AIの判断に対する説明責任やAIの適正利用対応が求められている。

(画像参照：https://www2.deloitte.com/content/dam/Deloitte/jp/Images/inline_images/deloitte-analytics/jp-da-m-ai-governance-1.png/_jcr_content/renditions/cq5dam.web.700.350.desktop.jpeg)

市場の成長予測

Global Informationによると、AIガバナンスの市場規模は、2024年に＄264M、2029年には＄936M、CAGRは28.80%で成長すると予測されている。

(画像参照：https://www.gii.co.jp/sample/img/MOI1549746-f1.webp)

(参照)
https://www.gii.co.jp/report/moi1549746-ai-governance-market-share-analysis-industry.html
https://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/ai-governance.html
https://blogs.blackberry.com/ja/jp/2024/02/sec-final-rule-cybersecurity-risk-management-strategy-governance-incident-disclosure

注目すべきAIガバナンス　スタートアップ5選

Protect AI　組織のAIの監視・保護技術

(画像参照：https://www.wwt.com/api/attachments/66d727ee92c92a4e8e728ae2/file)

Protect AIは、組織のAIを監視して保護するセキュリティ技術を開発している企業である。主力製品であるAI Radarは、AIモデル開発に使用される様々な要素を可視化し、「機械学習の材料リスト（MLBOM）」を作成する。このツールを使用することで、企業は自社のAIシステムの脆弱性を特定し、セキュリティリスクを軽減することができる。Protect AIは、金融、医療、エネルギーなど様々な産業の顧客を持っているため、競争力があるとされている。

(参照)
https://www.businesswire.com/news/home/20241018089226/en/Protect-AI-Named-2024-SINET16-Innovator
https://engineers.ntt.com/entry/202412-mlflow-replace/entry
https://canvasbusinessmodel.com/blogs/competitors/resistant-ai-competitive-landscape
https://uniqorns.jp/news/ai%E4%BF%9D%E8%AD%B7%E3%83%84%E3%83%BC%E3%83%AB%E9%96%8B%E7%99%BA%E3%81%AEprotect-ai%E3%80%81evolution-equity-partners%E3%82%89%E3%81%8B%E3%82%89%E7%B4%843500%E4%B8%87%E3%83%89%E3%83%AB%E3%82%92/

---

Prompt Security　プロンプトインジェクション・データ漏洩・シャドーAIによる被害を防ぐ技術

(画像参照：https://cdn.prod.website-files.com/671a5fabfac952255b7e6def/671a5fabfac952255b7e701a_genai.webp)

Prompt Securityは、AIを活用して企業のAIツールに対するプロンプトインジェクション*やジェイルブレイク**などのリスクから保護技術を開発している企業である。この技術では、組織内のGenAIとのすべてのやり取りを保護することで、機密データの露出、有害コンテンツのブロック、その他のGenAI特有の攻撃から保護する。また、組織内で使用されているAIツールの範囲をカタログ化することによって、セキュリティチームがこれらのツールの使用状態を確認し、アプリケーションやユーザーグループごとにアクセスポリシーを定義することができる。

*プロンプトインジェクションとは、生成AIを意図的に誤作動を起こさせるような指令入力を与え、提供側が出力を禁止している開発に関する情報や犯罪に使われ得る情報などを生成させる攻撃である。これによって、攻撃者はシステムの制御を奪ったり、機密情報を盗んだり、不正な操作を行ったりすることができる。
**ジェイルブレイクとは、情報機器のプログラムを改変して完全な管理者権限を取得することで、機能制限を解除するための行為である。

(画像参照：https://cdn.prod.website-files.com/671a5fabfac952255b7e6de4/67320a64dfb3a2baaff76ee6_Dashboard_for_Bsite%20(1)-p-1600.png)

(参照)
https://www.prompt.security/
https://innovatopia.jp/ai/ai-news/8358/
https://www.nri-secure.co.jp/glossary/prompt-injection
https://eset-info.canon-its.jp/malware_info/term/detail/00183.html

---

Skyflow　データ漏洩や不正アクセスを防止するGPTプライバシーボールト

(画像参照：https://techcrunch.com/wp-content/uploads/2024/02/GettyImages-1284553578-e1708516172854.jpg)

Skyflowは、AIデータへのアクセス制御設定によってデータ漏洩や不正アクセスを防止するGPTプライバシーボールトなどを開発している企業である。この技術によって、AIデータの保存・転送・処理の全ての段階において安全性を確保することができる。Skyflowは、AIを用いた分析システムを提供するDatabricksやAIを用いた自動化ツールを提供するWorkatoとの提携を発表しており、AWSとのパートナーシップに加えて、AIデータスタック（AIデータの処理における一時的な保存）エコシステムにおける地位を強化している。Skyflowは、株式会社電通グループの電通ベンチャーズからの出資も受けている。

(画像参照：https://www.skyflow.com/product/skyflow-for-genai)

(参照)
https://www.varindia.com/news/skyflow-announces-agentic-ai-security-and-privacy-layer
https://canvasbusinessmodel.com/blogs/target-market/skyflow-target-market
https://www.group.dentsu.com/en/news/release/001252.html

---

Lasso Security　AIアプリやAIツールへのアクセス制御技術

(画像参照：https://cdn.prod.website-files.com/651a649c4fa826fe82591c39/673497602068b4c8ee62217d_2024%20Gartner%20Cool%20Vendor.png)

Lasso Securityは、従業員が使用するAIアプリやAIツールの検出するアクセス制御技術を開発している企業である。この技術によって、従業員が重要な企業情報を大規模言語モデルに入力しないよう防ぐことができる。また、リアルタイムで保護したり、様々なAIアプリやAIツールへの適応性を持ち合わせたりと、GenAIセキュリティへの包括的なアプローチが可能となっている。

(参照)
https://venturebeat.com/security/lasso-security-sets-new-standard-in-llm-safety-with-context-based-access-controls/
https://siliconangle.com/2024/05/22/lasso-security-brings-contextual-data-protection-generative-ai-applications/

---

Deepchecks　LLMを用いたアプリの性能・精度・信頼性を評価するプラットフォーム

(画像参照：https://d15shllkswkct0.cloudfront.net/wp-content/blogs.dir/1/files/2023/06/2205-Philip-and-Shir-Deepchecks.png)

Deepchecksは、LLMを用いたアプリの性能・精度・信頼性を評価するプラットフォームを開発する企業である。このプラットフォームは、ディープラーニングと自然言語処理技術を活用して、言語モデルを詳細に洞察するものである。また、Deepcheckの機械学習の性能と動作を継続的に監視・評価するシステムは、オープンソース化されているため、透明性が確保されており、コミュニティ主導の更なるシステム開発を支えている。

(画像参照：https://www.deepchecks.com/wp-content/uploads/2024/02/ml-monitor-hero.png)

(参照)
https://anyinstructor.com/deepchecks-review/
https://canvasbusinessmodel.com/blogs/how-it-works/deepchecks-how-it-works
https://intellyx.com/2025/01/03/deepchecks-continuous-validation-for-llms/

---

海外スタートアップの情報プラットフォーム「ZUVA PRO」のご案内

ZUVAでは取得が難しい海外スタートアップ「資金調達情報」や「企業情報」をデータベースにて扱っており日本語にて情報を提供しております。また資金調達情報だけでなく、M&A情報やIPOなども扱っております。

上記だけでなく、シリコンバレー駐在のベンチャーキャピタリストにて今後一大トレンドになる可能性のある最新の「イノベーションキーワード」を解説しています。

「ZUVA PRO」に関してのご不明点やご相談ございましたらご気軽に下記「問い合わせ」にてご連絡お待ちしております。