信頼できるAIを構築するための6つの基準

　Microsoftでは、AIがその可能性をフルに発揮し、人間がAIの恩恵を最大限に享受するには、「信頼」という堅固な基盤が必要であると考え、信頼できるシステムを構築しなければならないとしている。

　そこで、最終的にAIが信頼できる存在であるために、AIソリューションの開発と展開の中核にあるべき基準として、「プライバシーとセキュリティ」「透明性」「公平性」「信頼性」「多様性」「説明責任」の6つを設定したという。

• プライバシーとセキュリティ：AIは、他のクラウドテクノロジーと同様に、データの収集、使用、保存を規制するプライバシー法に準拠し、個人情報がプライバシーの基準に合致して使用され、悪用や盗難から保護されるよう保証しなければならない。
• 透明性：人間の生活へのAIの影響が増すにつれ、AIがどのように判断したかを人間が理解できるように、AIの機能に関する情報を提供し、潜在的な偏見、エラー、予期せぬ結果を容易に特定できるようにしなければならない。
• 公平性：AIが、例えば病気の治療や雇用に関する判断を行う場合は、同様の症状や技能の者であれば誰に対してでも同じ判断を行うようにするべきである。公平性を保証するため、バイアスがAIにもたらす影響についても理解する必要がある。
• 信頼性：AIは、明確な条件の下で動作し、予期せぬ状況においても安全に応答し、想定と異なる形で進化しないように設計されなければならない。AIをいつ、どのように展開するかについての意思決定においては、人間が重要な役割を果たさなければならない。
• 多様性：AIソリューションは、意図せず人間を排除する可能性のある製品や環境の潜在的障壁を予測する、多様性のある設計規範によって、人間の幅広いニーズと体験に対応しなければならない。
• 説明責任：AIを設計、展開する人間は、システムの動作について説明責任を負う。その責任の基準は、ヘルスケアにおけるプライバシーなど、他の分野での体験と実務に基づくべきで、システム設計段階だけでなく、運営においても継続的に順守されなければならない。

　Microsoftでは、以上の6つの基準をAI製品とサービス設計の規範とし、同社製品がこれらの基準に準拠するかどうかを制度的に確認するための社内委員会も設置する。同社は、AIの将来とAIが作り出す未来について楽観的だが、その未来を実現するには、政府、企業、学術界、市民団体が協力して、信頼できるAIシステムを構築していくことが不可欠だとしている。

 

年薪百万刀仍嫌少 AI人才收入到底有多高

　　在硅谷，最不为人知的一个秘密是，人工智能专家到底能拿多少工资和奖金。日前，一份小小的税务文件让我们看到，OpenAI研究室的专家们，每年赚的钱，足以惊掉人眼球。

　　2016年，OpenAI给它的顶级研究员Ilya Sutskever开出了190万美元的工资，另一位重要研究员Ian Goodfellow工资超过80万美元——哪怕他是3月份才入职的。这两位研究员都是从谷歌挖过来的。

　　另一位该领域的大牛人物——机器科学家Pieter Abbeel的收入为42.5万美元，看来起虽然比上面两个人少，但他其实2016年6月才加入OpenAI。之前，Abbeel是加州大学伯克利分校的教授，加入OpenAI后的工资都包括签约奖金。

　　这些数字在税务表格中可以找到，OpenAI每年需要将这些公开出来，因为它是一家非营利机构。也正是因为它是非营利机构，我们才可以想象，其他公司的人工智能科学家们，年薪会有多高。不过这里需要提醒的是，由于非营利机构无法提供股份，因此OpenAI科学家们的薪酬或许还是低于他们所产出的价值。

　　鉴于理解人工智能技术的人不多，而全世界成千上万的公司都在开发这项技术，因此顶级人工智能研究员的薪资近年来水涨船高。加拿大的独立实验室Element AI预计，全球大约有22000人具备进行专业人工智能研究的能力，这个数字较去年增长了一倍。

　　人工智能创企Skymind的首席执行官兼创始人Chris Nicholson表示："（对人工智能研究员的）需求越来越高，供应跟不上。"

　　2015年，伊隆·马斯克和科技行业的几位知名人物创办了OpenAI，并将其办公室搬到了硅谷北边一点。他们聘请了几位在谷歌和Facebook工作过的专家。放眼全球研究人工智能的公司，谷歌和Facebook可以说是两位佼佼者了。

　　除了工资和签约奖金，互联网巨头们一般还会拿大笔股权吸引员工——这是OpenAI做不到的。不过OpenAI也有自己独特的优势所在，那就是它会和外面的世界分享自己的成果，并极力避免科技对人类造成危险，这里是理想主义者的世界。



　　"我拒绝了比OpenAI工资高很多倍的公司。"Sutskever说，"其他人也是一样。"他表示，希望将来OpenAI在实现"用强大的人工智能技术普惠人类"的过程中，能够提高工资。

　　成立第一年时，OpenAI花了1100万美元，其中700多万美元都用于工资和员工福利支出。2016年，这个非营利机构共有52名员工。

　　在大型科技公司任职的人透露，没有行业经验，或行业经验很少的人工智能专家一年可以赚30万-50万美元（工资加股票），鼎鼎有名的人能拿到一整套薪资包，价值超过上百万。

　　在谷歌和Facebook实习后，Wojciech Zaremba加入了OpenAI，他说："人工智能专家的工资高到可怕。"虽然无法透露具体数额，但Zaremba表示，大型科技公司给他开出的公司，大概是他真正市场价值的2-3倍。

　　伦敦的人工智能实验室DeepMind大约有400名员工，2016年共支出1.38亿美元。每名员工平均工资34.5万美元，包括研究员和其他员工。

　　Sutskever等研究人员擅长所谓的神经网络和复杂算法，通过分析大量数据来学习如何完成任务。这些技术被运用到从手机数字助手，到自动驾驶汽车等的方方面面。一些研究人员薪资或许更高，因为他们的名字在人工智能圈如雷贯耳，可以帮公司吸引到其他研究人员。

　　Sutskever曾就职于多伦多大学，有一支三个人的团队，开发了所谓的计算机视觉技术。Goodfellow发明了一种技术，能让机器生成虚假数字照片，几乎和真实照片没有区别。

　　"当你招聘到一位明星专家时，你招聘到的不仅仅是他一个人。"创企Skymind的Nickolson说，"你招聘到的是他能够吸引的所有人，以及他们带来的曝光度。"

　　OpenAI的其他研究员，包括和Sutskever一起领导实验室的Greg Brockman，在实验室的第一年却没有享受到这么高的工资待遇。

　　2016年，还在金融科技创企Stripe担任首席技术官的Brockman赚了17.5万美元。然而，作为这家公司的创始人之一，他的工资比市场价要低了许多。有两个行业经验更丰富——虽然年纪很小——的研究员，2016年的工资高达27.5万美元和30万美元。

　　尽管人工智能研究员越来越多，但还是跟不上行业发展速度。"对人才的需求远胜于现在市场上研究员的供应速度，因为人工智能正从早期阶段跨步到广泛使用。"Nicholson说道。

　　也就是说，科技公司可能很难留住自家的人才。去年，在加入OpenAI仅仅11个月后，Goodfellow又回到了谷歌。Abbeel和其他两个研究员也离开OpenAI，创办了一家机器人创企Embodied Intelligence。还有一位研究员——Andrej Karpathy，也离开这家非营利机构，去特斯拉当上了人工智能主管，现在在开发自动驾驶相关技术。

　　看来，连马斯克都在挖自家人才了。

iPhoneから送信