• 最新新闻
  • 小米印度主管:今年门店将从500家增加到5000家_IT新闻_博客园 债主追债、员工跳槽、裁员降薪...法拉第未来又面临11起新诉讼 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 百度无人车两周后将在乌镇运营 5年后大规模量产 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 债主追债、员工跳槽、裁员降薪...法拉第未来又面临11起新诉讼 腾讯车联与中国天气网达成战略合作 推动精细化气象数据进车_IT新闻_博客园 小米印度主管:今年门店将从500家增加到5000家_IT新闻_博客园 债主追债、员工跳槽、裁员降薪...法拉第未来又面临11起新诉讼 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 滴滴设立“百川”司机精准培训体系,不完成课程将无法接单 “换脸”“伪装”不恐慌!识别准确率超过99% RealAI助力AI安全
  • 推荐新闻
  • 小米印度主管:今年门店将从500家增加到5000家_IT新闻_博客园 债主追债、员工跳槽、裁员降薪...法拉第未来又面临11起新诉讼 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 百度无人车两周后将在乌镇运营 5年后大规模量产 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 债主追债、员工跳槽、裁员降薪...法拉第未来又面临11起新诉讼 腾讯车联与中国天气网达成战略合作 推动精细化气象数据进车_IT新闻_博客园 小米印度主管:今年门店将从500家增加到5000家_IT新闻_博客园 债主追债、员工跳槽、裁员降薪...法拉第未来又面临11起新诉讼 扎克伯格心真大 脸书被曝多年来以文本形式存储数亿用户密码 滴滴设立“百川”司机精准培训体系,不完成课程将无法接单 “换脸”“伪装”不恐慌!识别准确率超过99% RealAI助力AI安全
  • 热门标签
  • 日期归档
  • “换脸”“伪装”不恐慌!识别准确率超过99% RealAI助力AI安全

    来源:www.honkerbase.com 发布时间:2019-09-20

    图| ZAO APP(来源:网络)

    最近,改变面貌的APP“ZAO”从一个晚上被点燃到工业和信息化部的采访。它再次反映了行业和公众在人工智能技术安全和道德方面的巨大差距,以及政府对人工智能技术治理的认识和决心。

    虽然“ZAO”后来修改了之前有争议的用户协议,但它仍然在很大程度上被取消和卸载。目前,APP综合得分已下降至1.9分。这些评论大多不满意隐私泄露和安全风险。有一个技术噱头,这是开发人员缺乏对技术应用的道德规范的尊重,以牺牲用户的知情权为代价,甚至试图把相应的责任归咎于用户的不良行为造成的反击,足以让更多的技术开发人员带头。

    当然,从技术角度来看,“ZAO”并不是AI“变脸”的第一个应用。早在2017年12月,Reddit论坛的网友Deepfake就使用人工智能技术取代了“小电影”女演员的脸,与明星Gail Plus(由神奇女侠主演)取代。从那时起,随着技术的开源,应用程序变得更加普遍。 DeepNude过去没有解开,引起了广泛的关注和担忧。在政治方面,Twitter的“奥巴马特朗普是一个白痴”的虚假视频引发了一系列的后续行动。美国众议院6月份就Deepfake技术举行听证会,讨论人工智能技术操纵公众舆论的可能性,例如使用虚假视频削弱政府机构和新闻媒体的可信度,甚至对其产生灾难性影响。 2020年大选。此外,最近有一些案例,欺诈团伙使用人工智能合成语音技术从一家英国公司诈骗22万欧元。

    “不如亲眼所见,不如亲眼所见。”随着人工智能技术“变脸变声”变得越来越容易,可以“立足”,我们的“早期嗅觉”和“视觉”都变得“真假相随”。技术的发展再次呼唤道德和安全的规范。TY。

    事实上,早在2015年,学术界就提出了人工智能安全的概念。随着人工智能应用的爆发,利用人工智能技术漏洞进行“逃逸攻击”、“反样本攻击”和“数据污染攻击”的情况逐渐增多。随着人工智能技术的发展,随之而来的安全风险也在不断积累。特别是人脸识别作为人工智能技术中应用最广泛的场景之一,面临着越来越严峻的?粽健H肆承畔⒆魑匾舾械男畔ⅲ丫蠖ǖ酱蠖嗍说氖只馑⒅Ц叮踔烈恍┱嗟娜现ひ滴裰小R坏┤肆承畔⑿孤痘蛭弊埃允褂萌肆呈侗鸺际醯慕鹑谥Ц逗凸舶踩【霸斐删薮笸病?

    0x251D

    清华大学人工智能研究院瑞来孵化

    作为首批开展“人工智能安全”领域研究的团队之一,realai由清华大学人工智能研究所孵化,致力于研究和推广安全、可靠、可信的第三代人工智能核心团队。委员们在清华大学进行了相关研究。

    realai首席执行官田田表示,最近的一些新闻事件将人工智能安全问题从学术界带到了社会。目前,越来越多的机构开始开展相关研究。未来,人工智能安全将产生更大的影响。社会各界都会意识到人工智能技术带来的安全问题及其深远影响。

    据了解,RealAI在AI安全领域的布局主要有两个方面:第一,防止AI算法被用来危害社交行为,如改变假面视频。第二种是检测和修复AI算法漏洞,例如防止恶意破坏人脸识别。 RealAI认为,通过确定应用这些AI技术的潜在风险,AI行业可以健康发展。

    “人工智能安全是一个持续攻击和防御的过程,它将不可避免地呈现出促进共同发展的攻击和防御状态。当新的攻击出现时,将有新的防御方式。首先,我们必须掌握攻击方法知道如何防守和防守。一方需要适应动态变化的攻击场景。“

    对于“人脸改变”,RealAI拥有强大的生成技术,例如“无所事事”的人脸改变;同时,也知道如何发现和捍卫它们。从效果的角度来看,RealAI在内部测试集上的面部检测准确率超过99%。该测试集涵盖了市场上大多数应用面临变化技术的假视频。该团队现在还在预测可能的未来攻防场景,并提前设计可行的解决方案以应对潜在的风险。

    图|面部变化检测(来源:RealAI)

    在AI算法漏洞检测方面,如AI识别系统的“隐形”和“伪装”,RealAI更注重真实的物理世界(不同的光线,角度,距离,运动模糊,失焦等) 。并且更深入地研究如何使用白盒的替代模型来攻击黑匣子的受害者模型。作为第一家使用反样本攻击技术破解现实商用手机人脸识别系统的公司(其他研究机构停留在数字世界或公共Face ID系统级别),RealAI还可以提供相应的“防火墙” ”。检测“面部伪装”算法的准确率也达到了99%以上。

    图|破解人脸识别(来源:RealAI)

    据了解,“隐身”和“伪装”的实施原则是“反样本攻击”方法。针对“样本攻击”的防御方法主要包括图像预处理和去噪,对样本的检测以及对抗训练。在这一领域,国内大学(特别是清华人工智能研究所)很早就开展了相关技术研究,目前处于领先地位。作为首批研究该技术的团队之一,RealAI使用了一些更新,更合适的方法来应对传统的算法漏洞。

    今年5月,RealAI与清华大学人工智能研究所联合发布了人工智能安全平台RealSafe,用于攻击和防御平台,支持攻击和防御多种算法和模型。 RealSafe平台还提供全面详细的攻击防御算法评估和比较,并输出安全评估报告。

    田田认为,“从技术角度来看,RealSafe平台可以作为测试平台使用。它输出指标来说明AI算法的安全系数。通过这个平台,希望能够推进人工智能安全,例如为政府部门提供参考。为政府部门提供技术基础,以制定衡量人工智能安全的指标。“

    值得一提的是,与谷歌和小发猫的安全平台相比,RealSafe平台更加全面,支持更多通用型号,更丰富的攻击和防御算法,并且具有突出的前沿优势。此外,RealAI还与一些相关公司合作,定制可提高AI安全性的产品,例如检测虚假内容检测工具。未来,终端所涉及的场景将具有各种人脸识别场景,如火车站,机场人脸识别门,手机,店面刷脸支付,公共场所动态监控,安全控制等。

    今年以来,我国实施了多项重信息安全政策,其中相当于2.0的数据安全监管措施是历史上最严格的。公众对人工智能安全的舆论也需要通过产品应用来提高。realai认为人工智能安全是一个很大的领域。没有一个研究人员或研究单位能够解决所有的人工智能安全问题。未来,需要更多的人参与进来,共同推动人工智能安全技术的进步。但这需要每个人都在同一个框架内讨论和登陆。因此,政府引导权威机构制定人工智能安全行业标准势在必行。

    友情链接: