看看是什么让Facebook AI副总裁夜不能寐-

facebook副总裁jér?me pesenti近期在采访中称,构建强大的ai系统需要巨大的日益增长的计算能力,摩尔定律的终结意味着创建最先进的ai所需的计算正在上升,ai计算依赖的增加,使得未来更多的软件创新依托于硬件和软件优化而非强计算能力。以facebook广告代理为例,发展下去定会成为行业的标杆,起到引领市场的重要作用。
“我可以告诉你,这让我夜不能寐,”pesenti说。“像facebook和谷歌这样的算力峰值负担得起任何一项实验,我们已经达到了这个目标。”
他说,人工智能需要更多的软件创新,才不会受到阻碍。硬件和软件的优化,可能对未来几年的ai至关重要,而不是强力计算。
不太依赖算力,即可获得创新突破的例子,比如由人工智能研究和卡内基梅隆大学开发的人工智能系统pluribus,它玩德州扑克不会输给任何人。科学家在一篇文章中表示,pluribus只需要150美元的云计算就可以进行训练。
摩尔定律的终结,意味着创建最先进的ai所需的计算正在上升。
pesenti引用openai分析,发现创建最先进系统所需的计算量自2012年以来。每年以10倍速度增长。
“随着计算量的增加我们能够获得东西也在增加,但问题的压力将变得更大,”pesenti说。“我认为我们仍然会继续使用更多的计算机,你仍然可以上网,但它会变慢,因为你无法跟上每年10倍的速度。那是不可能的。“
上个月发布的分析发现,像openai gpt-2这样的培训系统的成本,可能会超过五辆汽车的碳排放量。
pesenti是facebook领导人工智能的人,在venturebeat的转型会议上的舞台上,谈到了facebook在为全球28亿独立用户部署人工智能系统时遇到的独特挑战。
他举例分析了一个帖子是否有资格作为仇恨言论、一个视频只是做了细微改动或使用了deekfake。
在部署ai过程中,遇到的障碍可能是文化的或后勤的,或者只是未能认识到ai堆栈与典型的工程堆栈不同。
人工智能几乎在facebook服务的每个方面都发挥着作用,从广告到展示到facebook或instagram上的推荐到内容审核,以及portal的智能相机等新的客户体验。
facebook工程经理kim hazelwood去年表示,许多facebook服务都采用英特尔cpu。
pesenti和来自google,微软和airbnb的高管在,他们的转型会谈中也谈到了多元化在招聘中的重要性,希望确保人工智能对每个人的工作方式都相同。
他认为偏见通常来自数据集而不是ai系统的创建者。
“我们正在取得进展。它离我们应该达到的地方还很远,“他说。“我们需要尽一切努力增加该领域的多样性。”
facebook本周早些时候分享了与多元化相关的新统计数据,但没有公布有关人工智能研究等专门针对人工智能的部门内部种族或性别多样性的统计数据。
数据与社会研究员和算法问责法案的共同作者mutale nkonde分析发现,facebook ai research目前雇佣了146名员工,没有一个是非洲后裔。
由facebook arvr业务主管lade obamehinti创建的包容性人工智能程序,目前正在内部用于审查产品的偏见。
一年前,obamehinti创建了这个项目,因为她发现portal的智能相机ai应用于像她一样深色皮肤的人身上时,失去了效果。
然而,团队对ai多样性的测量可能很快就会过时。pesenti希望facebook内的开发人员成为每个团队和部门的一部分。
“我的目标是让组织中的每一位工程师都成为ml工程师,这个数字在去年增加了3倍,”他说。