金盛网聚(北京)科技有限公司/专业信息咨询监测解决方案提供商
金盛网聚 WJFabric
  • 首页
  • 我们的服务
  • 我们的资源
  • 新闻速递
  • 服务平台
  • 我们的案例
  • 我们的优势
  • 关于我们
  • 您当前的位置:首页 > 新闻速递

    警惕!人工智能发展的三个隐患

    “得到”App / 2018-03-13 15:37:06

      人工智能的发展给我们的工作、生活带来了很多改变,同时它也放大了各类不法行为的危害。牛津大学、剑桥大学、斯坦福大学、电子前沿基金会和人工智能研究组织OpenAI等机构进行了联合研究,《财富》中文网编译了这项研究的结论,研究报告列出了人工智能发展可能带来的三个隐患。

      第一,网络钓鱼或将愈演愈烈。随着人工智能的发展,犯罪分子在邮件中隐藏恶意链接的做法或将更加普遍和有效。比如犯罪分子根据社交媒体上获得的网民信息和行为模式,能够自动生成定制化的欺骗邮件来引诱网民点击。这些恶意邮件、网站或链接可以从伪造的账号中发出,而那些伪造账号可以模拟网民亲友的写作风格,从而使这些钓鱼邮件更具欺骗性。

      第二,假新闻和假宣传也将愈演愈烈。研究人员已经可以在音视频中将虚拟的政治人物形象做得与真人几乎一样。比如华盛顿大学的人工智能研究人员就曾制作了一段前总统奥巴马的演讲视频,看起来极为真实,但却是彻底虚构的。以后,不法分子有可能使用AI技术开展“自动化、个性化的虚假宣传活动”。在这些宣传活动中,“不同地区的人可能会收到定制化的宣传信息,以吸引他们投票”。

    timg.jpg

      第三,人工智能将使武器更具毁灭性。随着人工智能技术的进步,哪怕一个普通人也具有了广泛制造暴力的能力。比如随着面部识别、无人机导航等开源技术的传播,使一些犯罪分子利用这些技术实施犯罪成为可能。想象一下,如果一架自动飞行的无人机具备了面部识别能力,然后精准发动攻击,这将是一幅什么样的情景?

      以上是人工智能发展所面临的一些现实风险,技术进步在给我们带来便利的同时,我们也应该针对这些潜在风险进行防范。大数据处理信息服务商金盛网聚WJFabric认为,技术本身没有立场,但技术带来的“双刃剑”的结果却是事实。著名财经作家吴晓波曾在一次公开活动的现场播放了一段“吴晓波朗读”的音频,现场效果十分逼真,但事实上,这是国内某科技公司利用大数据技术收集吴晓波的公开影像资料,进行的模拟合成实验。由此可见,人工智能的“造假”会越来越“真实”,这对鉴别事物的真伪提出了更高的要求。因此,对人工智能技术进行反制的需求也愈加迫切。当然最基本的还是自治与人治。一方面用户应积极了解新事物,提升个人的科学素养;另一方面对于利用新科技实施的违法活动应进行严惩。新科技的发展浪潮宜疏不宜堵,而对于人工智能来说,加强技术管控更是不可或缺。

      金盛网聚(北京)科技有限公司成立于2012年,是一家数据处理与信息咨询服务商,公司拥有自主核心技术与服务咨询的团队, 公司“WJFbaric-互联网大数据信息监测SaaS平台”目前注册使用客户将近上万个,为企业、政府、学术机构、成功人士等提供在线信息收集、展示、阅读、存储的免费平台,公司远景致力于通过数据+计算形成可视化的人工智能决策平台。

电话:+86 10 61703208    网址:www.wjfabric.com
邮箱:bj_fabric@wjfabric.cn(北京市) / gz_fabric@wjfabric.cn(广州市)
地址:北京昌平区北清路1号院珠江摩尔国际大厦6号楼2-307 / 广州市海珠区新港中路艺影街129号丽影华庭B区3座 1101室

  京公网安备11010502033100号 京ICP备15061632号-2