新兴空间简报：信任与安全技术

Ali Javaheri分析师，新兴技术ali. javaheri @ pitchbook. com 紧急空间简介信任与安全技术 最初发表于2024年3月28日 Overview 趋势公司 信任与安全技术是指设计的技术和方法套件保护数字平台上的用户免受各种在线危害，包括错误信息、欺诈和剥削。应对动态性质在数字威胁中，这一领域涉及实施内容系统适度、年龄验证和合规性，以增强在线安全性和可信度。 背景 数字景观越来越受到错误信息传播的挑战和虚假信息，最近由世界经济论坛确定调查成为未来两年全球最大风险，可能助长社会两极分化和冲突风险。错误信息是虚假或不准确的信息1这是没有误导意图的传播，而虚假信息是错误的故意传播意图欺骗或欺骗的信息misled. The rise of generative AI contributed to these challenges by enabling“假新闻”和深度假货等人工智能生成内容的快速传播，从而使内容审核复杂化。在科技公司裁员、信任和安全中科技初创公司正在为缺乏内部团队的公司提供解决方案解决这些日益增长的在线安全问题。 为了访问更多的数据和PitchBook的新兴空间工具，在此处访问免费试用链接。 技术和流程 信任和安全技术利用多方面的方法来保护用户和平台通过采用先进技术和进程，包括： AI & ML:这些技术是内容审核的核心，自动检测以及缓解有害内容，如仇恨言论、错误信息和辱骂材料。AI和ML在自动内容分析中至关重要，因为它们分析文本，图像和视频，以有效地识别和排序有问题的内容。 自然语言处理(NLP)：NLP在解析和分析中起着关键作用文本来理解其含义，特别是用于检测仇恨言论和极端主义内容。然而，它的有效性受到其应用的特殊性的限制令人反感的内容的特定领域和掌握中的固有挑战人类语言的细微差别。 数字哈希技术：以PhotoDNA和ContentID为例，数字哈希技术对于打击儿童性虐待材料和版权至关重要侵权。通过为图像和视频生成数字签名，它使快速识别和删除非法内容。尽管其有效性，但挑战由于主观定义和潜在的用于过度宽泛的内容删除。3 图像识别:利用数字哈希技术、图像识别工具增强识别图像中特定对象的能力，从而帮助审核过程。这些工具有助于过滤内容，但由于在上下文理解。 元数据筛选:该技术使用数字中的描述性信息文件来标识符合特定条件的内容。同时有效地发现侵犯版权的材料，其可靠性受到元数据易用性的挑战操纵，从而突出了在线威胁的适应性。 年龄验证系统和数字身份验证：确保遵守年龄限制和保护未成年人，这些技术验证用户身份，从而防止冒充并确保用户满足平台年龄要求。 欺诈检测系统：利用模式识别和异常检测，这些系统对于识别和防止欺诈活动至关重要，因此保护用户数据和平台完整性。 法规遵从性解决方案：这些工具可帮助平台遵守复杂的与在线安全、数据保护和版权法，从而确保平台在法律框架内运作。 用户行为监控：这些工具分析用户交互以识别滥用或欺诈行为，这对维护平台完整性至关重要。 内容审核:自动化工具和人工监督的组合确保该内容符合社区标准和法规，从而平衡需要快速反应，需要细致入微的判断。 Applications 信任和安全技术通过增强用户在各个领域发挥着至关重要的作用安全，保持完整性，并遵守法规。这些技术应用于不同的平台：在社交媒体中，它们过滤掉不合适的通过使用内容分析、图像识别和NLP来获取内容和错误信息。电子商务平台和在线市场利用欺诈检测，数字身份验证和合规性解决方案，以保护交易安全和用户保护数据。在线游戏和电子竞技平台集成了年龄验证和行为监控以创造公平和安全的环境。金融服务和金融科技行业采用算法进行欺诈预防、身份验证和遵守到监管标准。教育技术平台实施内容适度和年龄验证，以确保安全的学习空间，而约会应用程序使用类似的技术来保护用户免受骚扰和欺诈。流媒体服务依赖于数字哈希技术和元数据过滤来实现版权合规性，而在线论坛和协作平台利用人工智能驱动讨论缓和和网络欺凌预防的工具。政府和公众服务还采用这些技术来保护数字服务并保护敏感数据。随着数字环境的发展，信任和安全技术在保护用户和维护跨行业的平台完整性突出了对创新和适应性解决方案的持续需求。 局限性 尽管信任和安全技术在数字平台中发挥着关键作用，但它们面临几个限制。主要挑战是难以准确检测在不侵犯言论自由或不造成言论自由的情况下缓和内容意外的审查，特别是考虑到语言和文化的微妙细微差别背景。自动化系统虽然高效，但往往缺乏充分的复杂性理解人类交流的复杂性，从而导致错误内容审核。此外，这些技术可能会与快速在线威胁的演变和持续不断的恶意行为者的独创性设计规避安全措施的新方法。ML对大型数据集的依赖模型还引发了对隐私和潜在偏见的担忧，这可能会扭曲这些技术在不同人口统计学中的有效性。此外，信任和安全技术的实施需要大量投资，这可以成为小型平台的障碍。最后，这些技术的有效性可以受到部署方式缺乏透明度和问责制的限制，这使得评估它们对数字安全和信任的真正影响变得具有挑战性。 近期交易活动和市场前景 信任与安全技术部门虽然相对新兴，但已显示出有希望的交易活动，表明投资者的强烈兴趣和显著增长的潜力。在最近的发展，Reality Defender，专门从事深度假货的检测和人工智能生成的内容，在2023年9月获得了1, 940万美元的A系列由DCVC。这种资本的注入突显了市场对先进的需求解决复杂的在线威胁的解决方案。同样，基于英国的逻辑，它提供了一个识别和回应错误信息的平台，筹集了11.6美元在2023年8月的后期一轮中，有100万美元，凸显了有效的紧迫性解决错误信息的传播。 在生物特征验证领域，专注于面部的初创公司Paravision用于用户身份验证的识别技术，筹集了3880万美元的系列A于2023年7月在HICO投资集团和J2 Ventures的支持下。此外，Unitary开发了计算机视觉模型来标记在线有害内容，2023年7月，由Creandum和由多元平台和圣骑士资本集团支持。 这些融资回合不仅展示了投资者的坚实信心But also signing the sector’s readempty to scale and innovation. As trust & safety tech继续发展，它有能力解决数十亿美元的市场未来几年，由于平台确保数字化的必要性日益增加其内容和用户交互的安全性和完整性。这个新兴的部门站在技术和社会需求之间的关键交界处，具有潜力在各种数字景观中提供有影响力的解决方案。 有关风险资本活动的更多信息数字风险保护，请参阅我们的2023年第四季度信息安全报告。 推荐阅读 •“为什么数字信任真正重要”，麦肯锡公司的QuantumBlack AI，2022年9月12日。•“2023年国际安全技术状况”，PUBLIC，Daniel Fitter和MayaDaver - Massion，2023年12月6日。••“一切都在适度”，新美国，Spandana Singh，2019年7月22日。“这就是为什么你需要更多地了解数字信任和安全”经济论坛，大卫·沙利文，2022年2月15日。