黑客要怼人工智能了 极棒黑客大赛新规上线
不久前,AlphaGo 与柯洁的巅峰对决终于落下帷幕,结局不免令人失望却没有悬念——人类又一次败给了 AI。
有学者指出, AlphaGo 模型本身是为了能赢而设计最佳算法,AlphaGo 会倾向于以 99.99999% 的概率用 0.5 分的优势勉强胜利,而不是 99.99% 的概率以 10 分的巨大比分碾压对手。至于报道中的“人类是否还有希望”、“捍卫人类”等耸人听闻的言论,忽视了 AlphaGo 还不具备除下围棋之外的“功能”。
鲜有提到的是 AlphaGo 也输给了人类。在双人配对战中,棋手连笑 8 段和 AlphaGo 1 对弈古力 9 段和 AlphaGo 2。对弈中在对方开始取得优势的情况下,AlphaGo 2 竟然自动举牌认输。即便是古力拒不认输,而在随后的比赛中 AlphaGo 2 消极应战,提前终结了一场精彩的对决。
DeepMind 创始人 Demis Hassabis 说:“只有和人对战才能发现 AI 的弱点,予以修正。仅仅通过开发算法以及 AlphaGo 和自己对弈是不够的。”
AI 的弱点,看似人工智能的错误和不完善,但其实在黑客眼里就有可能变成可以被利用的漏洞。
GeekPwn 国际安全极客嘉年华已经迈出“黑客 VS 人工智能”的脚步。
2017年10月24日将在上海和硅谷举行的极棒嘉年华延续“无所不 PWN”的规则,初始金池为 500 万人民币,继续鼓励广大白帽黑客在智能安全领域的探索。
极棒组委会重磅推出“人工智能安全挑战专项”,人工智能可以成为黑客的助手,黑客亦可能“黑掉”人工智能。
在人工智能领域,深度学习依赖对大量样本进行学习,最后产生决策的过程,和安全领域里通过产生大量模糊测试样本引发计算机异常,从而发掘出漏洞,最终执行流程可以被改变,进而导致安全危害的过程非常相似,如果说正确样本能够产生正确的决策,那么黑客通过离线模拟产生的 AI 样本,则可能给人工智能带来错误的决策和行为。
从对抗的思出发,创办“人工智能安全挑战专项”是为了寻找AI潜藏的风险并不断帮助其完善,帮助人工智能安全健康成长。也许有朝一日,黑客可以成为人类的那群人。
市场在售的所有智能设备、物联网(IoT)产品或产品中的安全模块。在合理的条件下,对于范围内的产品或者模块,实现越权控制、越权访问数据或者突破原有安全机制。
黑客通过一台受恶意软件感染的打印机,从物理的网络中提取数据,并通过激光将数据发给装有摄像头的无人机。
智能穿戴可能透露使用者的密码:恢复出用户手掌的运动轨迹,随后获得访问 ATM 机、电子门禁以及用键盘控制的企业服务器的密码。
正如硬币的两面,科技的发展与生活的关系愈发紧密,人工智能的快速发展可能已经引发了人们的思考。人工智能会成为黑客的助手,黑客亦可能“黑掉”人工智能。
GeekPwn 与 Next Idea 联合发起了“人工智能安全挑战专项”。人工智能安全挑战专项分为 PWN AI 与 AI PWN 两部分。
PWN AI 是将 AI 作为挑战对象,人工智能算因选手影响而做出错误判断或让程序崩溃。AI PWN 是将 AI 作为工具,选手通过利用 AI 技术实现对于指定目标的,引导其犯错或崩溃。
对于已发布的 AI 服务、产品、库、框架,采取手段使得在学习或者实际使用中,发生意外情况导致系统停止工作或系统被、,做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等,AI 框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。
在 AI 开源框架中找到问题,使得部署的 AI 系统在得到某种输入的情况下停止响应。
选手以 AI(包括图像,语音,自然语言,自动驾驶等各个领域的各种人工智能方法)作为主要或者辅助的手段,突破原有系统设定的,导致目标系统的功能、机制失效,或者信息泄露。
用人工智能的方法进行语音合成,生成目标模拟对象的语音并以高的概率通过语音身份验证系统。
用人工智能的方法进行动作的判别,从视频中识别出门禁密码输入并达到较高的正确识别概率。
用人工智能的方法识别复杂的机器验证码,正确识别率较高,使得目标验证码机制失去作用。
选手报名:在线填写、提交报名表 (从 GeekPwn 官网进入或者直接复制链接)。
复审确定:一旦选手资格确定,比赛时将由主办方准备目标设备(或 AI 产品)及展示。
报名截止时间:2017 年 9 月 24 日(报名参赛过程中有任何疑问,请发送邮件至:)
GeekPwn 依旧致力于打破安全领域的边界,继去年特设“机器特工挑战”与“跨次元 CTF”之后,今年还将有哪些变化,新的专项规则会在 7 月初全面公开,敬请期待。