ICF人工智能(Ai)教练系统开发标准框架


Coach8导读为了指导指导开发者创建负责任的人工智能教练应用,帮助客户识别遵循这些最佳实践的系统,确保扩大访问并减轻系统风险,ICF建立了这套Ai教练系统开发框架标准。




ICF人工智能教练标准框架分为6大领域,13个标准。


  • (A) 基础

  • (B) 共同创建关系

  • (C) 有效沟通

  • (D) 培养学习与成长

  • (E) 保证与测试*

  • (F) 安全与隐私*


前四个域反映了用于人类教练的ICF核心能力框架。这里应用了相同的原则,尽管产生了不同的标准。域E和F是新颖的,是针对人工智能和应用特定考虑而制定的。



在每个域中,要求根据要求类型进行分组。不同域之间的类型有所不同。例如,在A-D域中发现的许多要求与人工智能教练系统中所需的内容、功能或动作有关。而在域E中,许多要求与验证和测试措施有关。


不同类型的要求需要不同的属性,并且需要寻求不同类型的证据来证明要求已得到满足。例如,内容要求可以通过提供内容副本来证明,而测试和验证要求可以通过测试结果来证明。



ICF制定这些标准是为了指导开发者创建负责任的人工智能教练应用,并帮助客户识别遵循这些最佳实践的系统,确保扩大访问并减轻系统风险。


- A、基础 -


基础要素涉及伦理和教练心态。这两个方面对于确保正确的价值观融入系统的所有设计决策和核心功能至关重要。


  • 标准1-基础:人工智能伦理


人工智能驱动的服务带来了新的伦理考量和风险。特别是在当前,人工智能教练服务和人工智能服务仍然相当新颖,有必要介绍和解释这些系统的关键属性。


同样重要的是,这些系统的决策应具有透明度,并采取行动尽量减少将现有人类偏见转移到人工智能系统中,并防止新的偏见出现。


总体而言,人工智能教练应用应根据行为准则进行设计,以确保自动化系统能够以符合伦理的方式应对各种情况,支持并补充ICF伦理准则。


  • 标准2-基础:体现教练心态


教练心态是开放、好奇、灵活和以客户为中心的。这些是人类的属性,人工智能教练平台应模仿这些特征。



- B、共同创建关系 -


研究已经确立了教练关系的重要性。许多因素共同作用,以创造客户在教练关系中感到安全所需的关系深度。虽然使用人工智能制定教练协议可能相对简单,但建立深度存在感以及创建信任和安全的关系可能更具挑战性。


  • 标准3-共同创建关系:建立和维护协议


在人工智能教练中,与人类教练一样,软件的成功取决于客户对教练目标和过程的参与和承诺。为了促进这一点,人工智能教练系统与客户和利益相关者合作,为教练参与和每次教练建立明确的协议。


关键要素包括确保客户理解交互的目的和结果,为每次干预获得明确同意,并提供选择退出选项,以便客户控制和拥有,仅在客户准备好并明确许可的情况下进入下一阶段,并在整个过程中保持他们的持续认同。


  • 标准4-共同创建关系:培养信任和安全


在人工智能教练中,建立一个安全和支持性的环境非常重要。这涉及几个关键策略:


首先,通过对人工智能的设计和所有权保持透明来培养信任;


其次,促进包容性对话并对反馈做出响应;


第三,区分通用和特定领域的教练方面,确保客户理解人工智能对其感兴趣领域的适用性;


第四,在问题超出人工智能范围时提供接触人类专家的途径;


最后,优先考虑客户安全,特别是在心理健康问题上,通过提供指导和连接到其他相关服务。


  • 标准5-共同创建关系:保持教练状态


在人工智能教练中,系统应保持类似于人类的开放和灵活的教练在场状态。


首先,人工智能在呈现时不应过度拟人化或具有误导性,以避免让客户感到不安。其语气应直接明了。


其次,通过允许客户查看他们之前的输入来增强用户体验,这可以提高他们的参与度和反思能力。此功能越容易访问越好。


第三,类似于人类教练评估和响应客户的情绪状态,人工智能教练应用在法律允许的情况下,应利用这些见解相应地调整其交互。这可以加深客户-教练关系,防止冲突或脱离,并支持客户在其“最佳发展区”(不太困难或容易,恰到好处)内发展。这些原则有助于使人工智能教练更有效和以客户为中心。



- C、有效沟通 -


人工智能教练系统中的有效沟通涉及模拟应用程序积极倾听,以充分理解客户,然后通过各种方法(如个性化评估、反思性提问和情景模拟)唤起客户的意识,并结合详细的反馈和进度跟踪。

这些工具共同帮助揭示客户的优势、劣势和行为模式,促进客户更深入的自我发现和以目标为导向的成长。


  • 标准6-有效沟通:积极倾听


在人工智能教练中,积极倾听涉及理解客户沟通中的言语和非言语方面,将他们的话语置于上下文中以进行有意义的互动。人工智能系统应基于这种情境意识进行干预,考虑过去的互动和客户的当前状态,同时清楚地解释其行动和理由。


此外,它应提供及时的、针对特定情境的反馈,以支持客户成长,增强理解并促进可操作的见解。


  • 标准7-有效沟通:唤起意识


人工智能教练应用可以使用各种技术(如有力的提问、隐喻和类比)来增强客户的自我意识和洞察力。它应提供一系列特定情境的刺激,如开放式问题和沉默时刻,以与客户产生共鸣并促进自我实现。

此外,系统应通过提出替代观点和连接见解来鼓励宏观思考,帮助客户理解想法的相互关系及其更广泛的影响。


- D、培养学习与成长 -


培养学习与成长是教练的核心,可以分为两个部分:促进客户成长和强化客户成长。


  • 标准8-培养学习与成长:促进客户成长


人工智能教练应用应有效地帮助客户将见解转化为可操作的目标,同时促进客户的独立性。关键功能包括协助设定、跟踪和调整SMART目标,促进讲故事和意义构建,并支持客户在情况变化时重新评估目标。


此外,系统应帮助澄清问题、生成替代解决方案并考虑不同选择的后果,确保全面和适应性的教练体验。


  • 标准9-培养学习与成长:强化客户成长


人工智能教练应用应采用方法来强化和引导客户朝着期望的结果和未来行为发展。这包括跟踪和验证进度以提供决策信息并激励客户,以及帮助他们保持朝着目标前进。系统应提供及时的提醒并强化见解,以保持专注和动力。


此外,人工智能帮助客户将学习转化为可操作的步骤并庆祝他们的成功以维持成长也很重要。通过里程碑跟踪进度并评估整体进步的能力也是关键,确保有条理和支持性的教练旅程。



- E、保证与测试 -


质量保证和测试对于确保系统有效并实现其预期目标至关重要。前面的A-D部分侧重于系统的内容、能力和行为类型。本节则着眼于可以采取哪些措施来验证人工智能系统是否有效执行。


本节分为两部分,第一个标准关注可应用于教练内容、能力和行为的验证和测试。第二个标准关注确保系统技术方面按预期运行的测试。


  • 标准10-保证与测试:教练可靠性措施


对于人工智能教练应用要可靠且有效,定量证明系统可靠性至关重要。这包括收集有效性证据,范围从客户反馈到正式实验,并可能将其与人类教练的功效进行比较。负责组织应验证系统的能力和操作是否如声称的那样,确保准确性、透明度和可靠性。


在推出之前,必须使用大量样本进行测试,以识别错误并收集改进的见解。驱动人工智能模型的数据质量至关重要,需要进行彻底的质量保证测试以避免偏见并确保实用性。纳入专家指导,如教练委员会,可以提高产品的质量和可信度。


最后,确保系统的响应在情境上适当对于保持客户参与和有效满足他们的需求至关重要。


  • 标准11-保证与测试:系统可用性


有效的人工智能教练系统应易于使用且不过于复杂,其内容应易于理解。与相关平台的集成和强大的可访问性也是用户便利的关键。为确保可用性,开发者应收集并发布用户满意度证据。


系统应直观,尽量减少对广泛培训或入职培训的需求,并应以通俗易懂的语言解释其核心功能,避免技术术语。内容应根据不同受众进行定制,考虑文化敏感性和语言差异,并确保不包含有争议或歧视性的元素。可通过提供多个访问点(如网站或应用程序)、与关键渠道建立集成或开发API来增强可访问性。


最后,系统性能(包括响应时间)对用户满意度至关重要,应通过架构决策和定期评估进行优化。


- F、技术因素 -


虽然本身并非特定于教练,但对于任何存储个人和潜在敏感信息的消费产品,某些要求是必要的。人工智能教练系统应满足最低安全和隐私要求。


  • 标准12-技术因素:安全与隐私


在人工智能教练应用中,数据安全取决于CIA三元组:保密性(防止未经授权的数据访问)、完整性(保护数据免受未经授权的更改)和可用性(确保授权用户对系统的访问)


关键安全措施包括对静态和传输中的数据进行加密,遵循行业标准(如NIST指南),使用强身份验证过程验证用户凭据,以及保护后端系统。


此外,确保系统在最小服务中断的情况下可用,并在推出前进行彻底的可靠性和错误测试,对于维护用户信任和满意度至关重要。


数据隐私对于人工智能教练应用至关重要,需要遵守不同司法管辖区的各种数据保护法律。这些应用应尽量减少个人数据,使用假名化和数据分箱等方法,并确保用户了解其数据的使用方式,包括与第三方共享和数据保护措施。


数据处理的同意至关重要,系统提供者必须了解数据的存储和管理、目标市场的法律要求,以及与关键用户渠道和后端系统的集成,以实现最佳性能。


对于买家和用户,了解像GDPR这样的法律框架以及人工智能教练应用的安全和隐私方面至关重要。组织应制定明确的安全和数据最小化政策,并考虑创建关于安全和隐私实践的用户友好内容。


  • 标准13-技术因素:弹性与可访问性


在人工智能教练系统中,确保弹性和可访问性(符合1991年美国残疾人法案)至关重要。这些系统必须纳入自适应技术和设计原则,以适应各种残疾(包括视觉、听觉、运动和认知障碍),确保所有用户的平等访问和可用性。


这涉及实施屏幕阅读器、语音识别和用户友好界面(具有足够的对比度和可导航性)等功能,以及定期测试和更新,以维护系统的稳健性并适应不断发展的可访问性需求。




* 注意事项与免责声明 *


所有系统都应鼓励用户在遇到复杂的个人或专业问题(即使是非医疗问题)时寻求专业的人类指导。尽管努力确保其算法的准确性和可靠性,但人工智能系统的建议和见解可能无法完全解决每个个体的独特情况。


此外,虽然每个系统都应致力于包容性和非歧视性设计,但人工智能系统设计者应向用户明确,大多数人工智能在完全消除偏见方面存在固有限制。鼓励工程师不断努力减少系统功能中的这些偏见。






阅读 158