人工智能

好的 AI 需要相关数据

当数据要帮助 AI 解决具体任务时,质量、来源和目的具有决定性。

语境让任务具体化

强大的 AI 模型可以给出良好的一般性回答。要帮助完成你的任务,它通常需要更多语境:你想实现什么、适用哪些假设,以及哪些信息现在相关。

一个来自电影之夜的例子

“我们该看什么?”是一个简单例子。一般性回答可能会建议热门电影。更相关的出发点可以考虑你使用的服务、你已经看过什么以及你会和谁一起看。这是说明语境价值的示例,而不是每个建议都会正确的承诺。

数量、质量和使用限制

更多数据也并不自动更好。陈旧、错误或无关的信息可能把答案引向错误方向。不适合任务的指令或假设也是如此。因此,信息必须附带其来源、时间和重要性。

我们认为,AI 应在清晰使用限制内接收任务所需的数据基础。模型不需要一个人的完整历史来帮助做出一次选择。访问一项服务也不应意味着可以访问生态系统中其他地方存在的一切。

我们的立场

AI 可以帮助表述、整理、比较和解释。用户仍必须能够评估结果并理解不确定性。这就是为什么 Ideallya 的数据工作是有用 AI 工作的重要组成部分:相关语境、可理解的来源和具体任务。

尝试一次小规模、可核查的比较

请 AI 助手推荐三部今晚看的电影。然后加入少量相关事实,重复同一任务:所有人都懂的语言、可用时间、大家认可的类型,以及已经看过的电影。两次提示都不要包含敏感或无关的历史信息。

对照这些要求比较回答。第二次回答是否遵守时间限制,并避免重复已看过的电影?向流媒体提供商核实是否可观看。更个性化的回答仍可能包含错误事实;自信的语气和流畅的措辞并不能证明信息是最新的。

保留有用的背景,纠正错误,删除没有帮助的细节。这样就能实际检验你的数据的价值,而不是假定数据越多,回答就总是越好。NIST 的生成式 AI 指南将可靠性和来源沿革作为风险管理问题进行讨论。

在你给 AI 更多语境之前

哪些信息实际上会改变答案?它是否是最新的,并且你是否有权为了这个目的使用它?