Blog
從蘋果到創業：Intrinsic推動AI內容審查，為安全團隊提供現代化工具
從蘋果到創業：Intrinsic推動AI內容審查，為安全團隊提供現代化工具
December 22, 2023
重點摘要：
新聞內文：
幾年前，Karine Mellata和Michael Lin在蘋果公司的欺詐工程和演算風險團隊相遇。作為工程師，Mellata和Lin參與了幫助解決包括垃圾郵件、機器人操作、帳戶安全和開發者欺詐在內的線上濫用問題，以應對蘋果日益增長的客戶群。
儘管他們努力開發新模型以跟上濫用行為的演變模式，Mellata和Lin感到自己正在落後 - 並且陷入重建其信任與安全基礎設施的核心元素中。
Mellata對TechCrunch表示：「隨著監管對團隊集中處理他們有些即興的信任與安全反應施加更多審查，我們看到了一個真正的機會，能夠幫助現代化這個行業，並為每個人打造一個更安全的網路」。「我們夢想有一個系統能像濫用行為本身一樣快速自適應」。
於是，Mellata和Lin共同創立了「Intrinsic」，這是一家旨在為安全團隊提供必要工具以防止其產品上的濫用行為的新創公司。Intrinsic最近在一輪由Urban Innovation Fund、Y Combinator、645 Ventures和Okta參與的種子輪融資中籌集了310萬美元。
Intrinsic的平台旨在針對使用者和AI生成的內容進行審查，提供基礎設施，使客戶 - 主要是社群媒體公司和電子商務市場 - 能夠檢測並對違反其政策的內容採取行動。Intrinsic專注於安全產品整合，自動執行禁止使用者和標記內容以供審查等任務。
Mellata說：「Intrinsic是一個完全可定制的AI內容審查平台。例如，Intrinsic可以幫助一家出版公司在生成營銷材料時避免提供財務建議，這涉及法律責任。或者我們可以幫助市場檢測如鐵指套等商品，這些在加州是非法的，但在德克薩斯州則不是」。
Mellata主張，這些類型的微妙類別沒有現成的分類器，即使是資源豐富的信任與安全團隊也需要幾週甚至幾個月的工程時間來內部新增新的自動檢測類別。
被問及對手平台如Spectrum Labs、Azure和Cinder（幾乎是直接競爭對手）時，Mellata表示，她認為Intrinsic在「可解釋性」和「大幅擴展工具」方面有所不同。Mellata解釋說，Intrinsic允許客戶「詢問」它在內容審查決策中犯的錯誤，並提供其推理的解釋。平台還擁有手動審查和標記工具，允許客戶在自己的數據上微調審查模型。
Mellata說：「大多數傳統的信任與安全解決方案不夠靈活，並且不是為了與濫用行為一起演變而構建的」。「資源有限的信任與安全團隊現在比以往任何時候都更需要供應商的幫助，並尋求在保持高安全標準的同時削減審查成本」。
如果沒有第三方審計，很難說特定供應商的審查模型有多準確，以及它們是否易受到困擾內容審查模型的類型偏見的影響。但無論如何，Intrinsic似乎正在因簽訂「六位數」範圍內的平均合同的「大型、成熟」企業客戶而獲得關注。
Intrinsic的近期計劃是擴大其三人團隊的規模，並將其審查技術擴展到不僅包括文本和圖像，還有影片和語音。
Mellata說：「科技行業的整體放緩正推動對信任與安全的自動化的更多興趣，這使Intrinsic處於獨特的位置」。「首席營運長關心削減成本，合規主官關心降低風險。Intrinsic在兩方面都有幫助。我們比現有供應商或相當於內部解決方案更便宜、更快且能捕捉到更多濫用行為」。
新聞原址： https://techcrunch.com/2023/12/21/y-combinator-backed-intrinsic-is-building-infrastructure-for-trust-and-safety-teams/
- Karine Mellata和Michael Lin在蘋果公司解決線上濫用問題時相遇，感覺落後於濫用行為的演變，因此共同創立了「Intrinsic」，一家旨在為安全團隊提供工具防止產品上的濫用行為的新創公司。
- Intrinsic提供一個AI內容審查平台，專注於社群媒體公司和電子商務市場，幫助客戶檢測違反政策的內容並採取行動。該平台能夠針對使用者和AI生成的內容進行審查，提供基礎設施以自動執行禁止使用者和標記內容等任務。
- Mellata強調Intrinsic與競爭對手的差異在於「可解釋性」和「擴展工具」，允許客戶理解審查決策中的錯誤並提供解釋。Intrinsic還提供手動審查和標記工具，讓客戶在自己的數據上微調審查模型。
新聞內文：
幾年前，Karine Mellata和Michael Lin在蘋果公司的欺詐工程和演算風險團隊相遇。作為工程師，Mellata和Lin參與了幫助解決包括垃圾郵件、機器人操作、帳戶安全和開發者欺詐在內的線上濫用問題，以應對蘋果日益增長的客戶群。
儘管他們努力開發新模型以跟上濫用行為的演變模式，Mellata和Lin感到自己正在落後 - 並且陷入重建其信任與安全基礎設施的核心元素中。
Mellata對TechCrunch表示：「隨著監管對團隊集中處理他們有些即興的信任與安全反應施加更多審查，我們看到了一個真正的機會，能夠幫助現代化這個行業，並為每個人打造一個更安全的網路」。「我們夢想有一個系統能像濫用行為本身一樣快速自適應」。
於是，Mellata和Lin共同創立了「Intrinsic」，這是一家旨在為安全團隊提供必要工具以防止其產品上的濫用行為的新創公司。Intrinsic最近在一輪由Urban Innovation Fund、Y Combinator、645 Ventures和Okta參與的種子輪融資中籌集了310萬美元。
Intrinsic的平台旨在針對使用者和AI生成的內容進行審查，提供基礎設施，使客戶 - 主要是社群媒體公司和電子商務市場 - 能夠檢測並對違反其政策的內容採取行動。Intrinsic專注於安全產品整合，自動執行禁止使用者和標記內容以供審查等任務。
Mellata說：「Intrinsic是一個完全可定制的AI內容審查平台。例如，Intrinsic可以幫助一家出版公司在生成營銷材料時避免提供財務建議，這涉及法律責任。或者我們可以幫助市場檢測如鐵指套等商品，這些在加州是非法的，但在德克薩斯州則不是」。
Mellata主張，這些類型的微妙類別沒有現成的分類器，即使是資源豐富的信任與安全團隊也需要幾週甚至幾個月的工程時間來內部新增新的自動檢測類別。
被問及對手平台如Spectrum Labs、Azure和Cinder（幾乎是直接競爭對手）時，Mellata表示，她認為Intrinsic在「可解釋性」和「大幅擴展工具」方面有所不同。Mellata解釋說，Intrinsic允許客戶「詢問」它在內容審查決策中犯的錯誤，並提供其推理的解釋。平台還擁有手動審查和標記工具，允許客戶在自己的數據上微調審查模型。
Mellata說：「大多數傳統的信任與安全解決方案不夠靈活，並且不是為了與濫用行為一起演變而構建的」。「資源有限的信任與安全團隊現在比以往任何時候都更需要供應商的幫助，並尋求在保持高安全標準的同時削減審查成本」。
如果沒有第三方審計，很難說特定供應商的審查模型有多準確，以及它們是否易受到困擾內容審查模型的類型偏見的影響。但無論如何，Intrinsic似乎正在因簽訂「六位數」範圍內的平均合同的「大型、成熟」企業客戶而獲得關注。
Intrinsic的近期計劃是擴大其三人團隊的規模，並將其審查技術擴展到不僅包括文本和圖像，還有影片和語音。
Mellata說：「科技行業的整體放緩正推動對信任與安全的自動化的更多興趣，這使Intrinsic處於獨特的位置」。「首席營運長關心削減成本，合規主官關心降低風險。Intrinsic在兩方面都有幫助。我們比現有供應商或相當於內部解決方案更便宜、更快且能捕捉到更多濫用行為」。
新聞原址： https://techcrunch.com/2023/12/21/y-combinator-backed-intrinsic-is-building-infrastructure-for-trust-and-safety-teams/