Blog
新創公司推出企業級AI測試平台，專注於預防AI風險
新創公司推出企業級AI測試平台，專注於預防AI風險
December 15, 2023
重點摘要：
新聞內文：
隨著企業越來越關注人工智慧及其可能提高生產力的方式，但同時也對相關風險保持警惕。在最近的Workday調查中，企業將底層數據的及時性和可靠性、潛在偏見以及安全和隱私問題列為實施AI的主要障礙。
前SigOpt聯合創辦人兼AI培訓和實驗平台負責人斯科特·克拉克感受到商機，開始建立一家名為「Distributional」的公司，其目標是擴大和標準化對不同 AI 使用案例的測試。
克拉克在一封給TechCrunch的電子郵件訪談中說：「Distributional正在打造現代企業級的AI測試和評估平台。隨著AI應用的能力增長，其造成的風險也隨之增加。我們的平台是為AI產品團隊提供主動並持續識別、理解和解決AI風險的方法，以避免在生產過程中對客戶造成傷害」。
在收購SigOpt並於英特爾擔任AI和高性能運算副總裁及總經理期間，克拉克遇到了技術相關的AI挑戰，這促使他創立Distributional。他發現，幾乎不可能確保定期進行高品質的AI測試。
Distributional的核心產品旨在檢測並診斷大型語言模型（例如OpenAI的 ChatGPT）和其他類型 AI 模型的 AI「傷害」，試圖半自動地找出在哪裡、如何以及何處測試模型。克拉克表示，該軟體為組織在預生產環境中提供了AI風險的「完整」視圖，該環境類似於沙盒。
克拉克對於Distributional平台的具體細節並未透露太多。他辯解說，該公司仍在與企業合作夥伴共同設計該產品的初期階段。
Distributional目前尚未產生收入，也未正式推出，並且尚無付費客戶。面對市場上已經存在的AI測試和評估平台，例如Kolena、Prolific、Giskard和Patronus 等，以及 Google Cloud、AWS 和 Azure 等科技巨頭提供的模型評估工具，它如何在競爭中脫穎而出？克拉克表示，他認為 Distributional軟體的企業特性是其不同之處。
克拉克表示，如果一切按計劃進行，Distributional將在明年平台正式上線後開始產生收入，屆時一些設計合作夥伴將轉為付費客戶。與此同時，該新創公司正在從風投公司籌集資金。
Distributional近期宣布，它完成了由安德森·霍羅維茨的 Martin Casado 領投的 1100 萬美元種子輪融資，Operator Stack、Point72 Ventures、SV Angel、Two Sigma 和天使投資者也參與了投資。
新聞原址： https://techcrunch.com/2023/12/14/distributional-wants-to-develop-software-to-reduce-ai-risk/
- 新創公司Distributional，由前SigOpt聯合創辦人斯科特·克拉克領導，旨在建立一個企業級的AI測試和評估平台。這個平台將協助AI產品團隊主動、持續識別、理解和解決AI風險，避免在生產過程中對客戶造成傷害。
- Distributional的核心產品專注於檢測並診斷大型語言模型和其他AI模型的潛在傷害，提供組織在預生產環境中對AI風險的全面視圖。該公司正處於與企業合作夥伴共同設計產品的初期階段。
- Distributional完成了由安德森·霍羅維茨領投的1100萬美元種子輪融資，計劃明年正式推出其平台。該公司將面臨市場上現有的AI測試和評估平台的競爭，但其企業特性可能是其競爭優勢。
新聞內文：
隨著企業越來越關注人工智慧及其可能提高生產力的方式，但同時也對相關風險保持警惕。在最近的Workday調查中，企業將底層數據的及時性和可靠性、潛在偏見以及安全和隱私問題列為實施AI的主要障礙。
前SigOpt聯合創辦人兼AI培訓和實驗平台負責人斯科特·克拉克感受到商機，開始建立一家名為「Distributional」的公司，其目標是擴大和標準化對不同 AI 使用案例的測試。
克拉克在一封給TechCrunch的電子郵件訪談中說：「Distributional正在打造現代企業級的AI測試和評估平台。隨著AI應用的能力增長，其造成的風險也隨之增加。我們的平台是為AI產品團隊提供主動並持續識別、理解和解決AI風險的方法，以避免在生產過程中對客戶造成傷害」。
在收購SigOpt並於英特爾擔任AI和高性能運算副總裁及總經理期間，克拉克遇到了技術相關的AI挑戰，這促使他創立Distributional。他發現，幾乎不可能確保定期進行高品質的AI測試。
Distributional的核心產品旨在檢測並診斷大型語言模型（例如OpenAI的 ChatGPT）和其他類型 AI 模型的 AI「傷害」，試圖半自動地找出在哪裡、如何以及何處測試模型。克拉克表示，該軟體為組織在預生產環境中提供了AI風險的「完整」視圖，該環境類似於沙盒。
克拉克對於Distributional平台的具體細節並未透露太多。他辯解說，該公司仍在與企業合作夥伴共同設計該產品的初期階段。
Distributional目前尚未產生收入，也未正式推出，並且尚無付費客戶。面對市場上已經存在的AI測試和評估平台，例如Kolena、Prolific、Giskard和Patronus 等，以及 Google Cloud、AWS 和 Azure 等科技巨頭提供的模型評估工具，它如何在競爭中脫穎而出？克拉克表示，他認為 Distributional軟體的企業特性是其不同之處。
克拉克表示，如果一切按計劃進行，Distributional將在明年平台正式上線後開始產生收入，屆時一些設計合作夥伴將轉為付費客戶。與此同時，該新創公司正在從風投公司籌集資金。
Distributional近期宣布，它完成了由安德森·霍羅維茨的 Martin Casado 領投的 1100 萬美元種子輪融資，Operator Stack、Point72 Ventures、SV Angel、Two Sigma 和天使投資者也參與了投資。
新聞原址： https://techcrunch.com/2023/12/14/distributional-wants-to-develop-software-to-reduce-ai-risk/