什么是以人为本的AI?

AI技术蓬勃发展,有望极大改善我们的日常生活。因此,人工智能专家经常围绕在我们社会中利用人工智能的最佳方式展开对话,并由此得出了以人为中心的AI方法。以人为中心的AI意为不是用机器代替人类,而是用机器来优化人类的体验。

在以人为中心的AI中,人工输入始终是设计和构建的中心。这种方法利用了人和机器各自的优势,使人和机器能够相辅相成,减少盲点。以人为中心的AI是以人类福祉为出发点,专注于无缝集成到我们生活中的技术,以改善我们的整体体验。这是一种可以缩小人机差距的方法,对双方都有益。

 

以人为中心或自主的AI

我们正处于AI讨论的关键时刻,有两种方法可以帮助我们最终构建机器学习模型。一种是以人为中心的方法,而另一种方法则是认为世界可以实现机器自主化。后者的想法是,机器可以在没有人类干预的情况下处理任务,因为从理论上讲,机器不存在人类固有的偏见(事实证明,这并不完全正确,但后面会进一步讨论)。这种方法假设,算法可以迅速而准确地自主做出决定,而人类并不总是合乎逻辑或快速地思考问题。因此,自主机器的效率更高。

对此,以人为中心的AI方法作出了回应,认为机器永远无法取代人类的关键属性,例如人类无穷的智力和创造力。人类绝不能完全受算法控制,而是要在制定解决方案方面占据主导地位,来提升人类的生活质量。以人为本的方法提倡机器与人之间更有效的体验,这种方法在解决方案的开发和实施时均牢记人类的安全和健康。

 

以人为中心的AI的优势

人机协作实施AI可以为企业、客户和社会带来诸多积极成果。

个性化客户体验

与科技交互时——无论是聊天机器人、个性化的电子邮件、为我们量身定制的社交网络,还是运行完美的搜索栏,如果互动是专门为满足我们需求而设计的,我们会得到更满意的体验。然而,只有在技术开发过程中考虑到我们的愿望、需求和行为等,才能实现这样的个性化。基于人类科学的AI开发,可以为客户提供更丰富、更满意的体验。

明智的决策

如前所述,以人为中心的方法充分发挥人机的各自优势,以克服各自的内在弱点。结果是,算法是基于人类价值观构建的,而且精确度更高。反过来,通过在关键任务用例(如云操作)中应用预测分析技术,企业能够做出明智的决策,以产生最佳结果,从中获益。

包容性更高

如果您认为算法能够解决人类偏见问题,那就错了。算法实际上可以通过反馈循环延续和放大偏见。如果不加审查,一个有偏见的算法就无法做出客观中立的决定,当算法在做出诸如假释、贷款和求职者等重要的社会决定时,尤其危险。

构建AI时,以人为中心的方法始终保留人类的干预,这样人类就可以监控算法决策中的偏见。这种方法启用制衡系统,在这个系统中,人或机器都不是完全自主的,因此更容易找到使结果更具包容性的方法。

可靠性

虽然仅依靠算法似乎是个更好、更可预测的选择,但以人为中心的AI方法提供了一个更可靠的解决方案。如果人类越来越依赖完全自主的算法,当这些算法不起作用时,我们将失去解决任务的能力。针对边缘用例,人类应该进行干预,因为无论是什么样的边缘用例,AI都无法确定如何回应,或错误地回应。通过采用以人为中心的AI方法,我们可以避免出现因被迫依赖算法而产生的不佳结果,因为算法有时也会失败。

 

如何构建以人为中心的AI

我们已经从理论上讨论了以人为中心的AI,但在现实中,您要如何在组织内实施这种方法呢?在AI开发过程中,您可以采取一些关键步骤,帮助您达到以人为中心的AI所需的平衡点。

利用人机协同

人机协同方法与以人为中心的AI相辅相成。也就是说,在构建ML模型的训练、测试和优化过程中,人类都参与其中。例如,人类可以标注训练数据,帮助模型学习要识别哪些特征。人类还可以验证模型预测的准确性,并在模型出错时向模型提供反馈。换句话说,人类是模型持续反馈循环中的一部分。

如今,有了更先进的工具,可以进一步推进人与机器之间的协作。例如,在标注过程中,算法可以为给定标签提供一个最佳的初始猜测或假设。然后,标注员可以利用这些猜测或假设确定自己的判断。算法还可以在提交作业之前验证标注员的判断。这些类型的工具可以促进标注员和算法协同工作,最大限度地提高工作的精度和效率。

注意人类和算法的偏见

在AI开发中,意识到偏见非常重要,以确保您不会过于依赖人类或机器的判断。要考虑到团队可能会无意中将偏见引入到算法的情况,并想好减少偏见的计策,确保算法结果不含偏见。算法可以用来填补人类的盲点,但要确保持续监测模型输出的偏见;机器有时会放大人类的偏见。

组建多元化的团队

基于上一点,当AI由多元化团队构建时,AI的偏见程度往往会更低。同质化的团队往往会有类似的盲点、偏见和其他差距,这些可能最终都会反映在模型中。当然,多元化并不只是针对开发者而言。对于数据标注员来说,多元化特点同样重要。关键的是,您所选择的标注员应该至少具有人口统计上的多样性,以及由用例决定的地理多样性。这有利于汇聚更多不同的意见,构建更加包容的AI模型。

心系客户

以人为中心的方法以人类体验为关注焦点。当您开发一款AI产品时,您希望最终产品能够极大地提升客户的生活质量。您需要深入了解客户是谁(这包括客户的人口统计数据、背景、需求和地点,以及其他身份标识),以及客户会如何使用您的技术。让一部分终端用户参与到模型构建的测试和验证过程中,是获取用户反馈的好方法。也许,您可能认为用户都会以同一种方式使用您的产品,结果发现终端用户的使用方式各不相同。若想了解这一点,就要让用户直接参与到测试过程中。

巧妙地利用机器自主

值得注意的是,机器自主有时在AI中也会占有一席之地。在一些用例中,机器完全控制决策是理想的选择,特别是在涉及到人类安全的情况下。其中,一个示例就是自动驾驶汽车。人类驾驶员很容易发生交通事故(全世界每年有超过100万人死于车祸),而且通常驾驶员的决策能力很差。完全自动驾驶汽车有望代替人类驾驶员做出更高效、更安全的决策,而这可能成为机器自主性被大力推广的一个领域。在这成为现实之前,人类和机器智能的结合是提高道路安全、行人安全的一种方法。换言之,机器自主可以明智地应用于更敏感的用例。

 

推进以人为中心的AI方法

AI对社会有着积极影响,推动社会进一步讨论AI人人有责。我们讨论的内容能够影响AI从业者的优先事项和行动。我们需要提倡公平的AI,为所有使用AI的人提供净利益,在整个开发过程中,都要谨记终端用户的需求。企业尽可能参与知识共享也非常重要,这可以增强大家对以人为中心的方法的信心。

随着AI技术的蓬勃发展,关于如何与AI合作、如何使用AI的讨论比以往任何时候都更加重要。最后,我们想要创造一种技术环境,在这种环境中,机器不是取代人类,而是成为人类提升能力的武器。

 

资深数据科学家Phoebe Liu的专业洞察

澳鹏可以提供一支专家团队,在客户利用以人为中心的AI方法构建尖端模型时,满足客户的训练数据需求。资深数据科学家Phoebe Liu是团队的领导,确保团队严格遵守澳鹏的众包资源道德标准。以下是她对构建以人为中心的AI的想法和建议:

测试和理解人与AI的互动

测试和理解人与AI的互动对于成功的用户体验至关重要。例如,对于自动语音识别项目,要由带有不同口音的讲话者用不同的方式阐述同一个事物。对于聊天机器人和语音AI中的自然语言理解(Natural Language Understanding),在测试时用户要像和另一个人聊天一样自然地交互。在真实场景中进行用户测试的次数越多,用户与AI系统之间的交互就越顺畅。

以人为中心的AI涉及多学科知识

以人为中心的AI需要汇集来自不同领域的学者和从业者:工程师、心理学家、设计师、人类学家、社会学家以及其他领域的专家。创造成功的以人为中心的AI需要多个领域的专业人员开展合作,开发硬件或软件,分析用户在不同社会环境下与AI互动时的行为,以及提供特定应用所需的领域知识。由于学科术语和实践方法不同,这种协作可能会很困难。然而,众多参与者对以人为中心的AI的共同兴趣,是促使参与者理解和尊重知识获取的多种方式的强大动力。

考虑特定的AI任务

人工智能是人类创造的一种工具,因此,在设计阶段考虑它试图在人类智能中模拟哪些特定任务非常重要。在设计系统时,我们需要关注系统试图模拟的特定功能——例如,语音助手能够实现真实的问答,但无法在下雪的情况下,自动导航路线。当我们设计以人为中心的AI时,我们首先应考虑的是,在客观事实存在的情况下,AI要完成的任务是否可以学习,如果不能,如何利用人类的专业知识最佳地利用或优化AI系统。

 

澳鹏Appen能为您做什么

在澳鹏,我们充分利用人类和机器智能的优势,提供高质量的经标注训练数据。我们的数据标注平台为全球最创新的机器学习和业务解决方案提供动力。我们的许多标注工具均具有智能标注功能,可以利用机器学习模型自动标注,提高标注员的工作效率和准确率。我们重视AI构建中的人机协同方法,在所有工作中,我们坚持以人类为中心。

我们了解当今企业的复杂需求。25余年来,澳鹏利用超过235种语言和方言为世界各地政府机构和大型企业提供一流质量的数据和服务。

请立即联系我们,以直接讨论您的数据需求。

 

Language