跳到正文
今天11月5日周四2 条
  1. TechCrunch · AI45

    OpenAI 全球事务官 Chris Lehane 发文呼吁制定应对 2028 大选的 AI 政策

    OpenAI 全球事务官 Chris Lehane 发表文章,主张将 2028 年总统大选视为定义 AI 未来的关键时刻,并提出涵盖劳工保护、教育及数据中心发展的五项政策优先事项。他将 AI 对经济的重塑比作罗斯福新政,呼吁政客寻找让民众分享 AI 红利的“第三条道路”。批评者指出其提议旨在推动 AI 普及与基础设施扩张,却缺乏确保财富公平分配的具体约束机制。

  2. The Verge · AI42

    Amazon Bee Frontier 引发用户心理困扰与隐私争议

    The Verge 评测员因佩戴 Amazon Bee Frontier 导致记忆混乱,其治疗师建议将其丢弃。该 AI 可穿戴设备虽能转录对话并生成待办事项,但频繁出现误判(如虚构人物关系、错误识别宠物昵称)及将创伤经历过度戏剧化总结的问题。这种持续录音且难以察觉的设计让用户产生被“煤气灯效应”操控的感觉,严重干扰了对真实记忆的信任。

11月3日周二
  1. MIT Technology Review · AI45

    “反向博弈论”如何约束 AI 智能体

    “反向博弈论”(机制设计)通过构建激励规则约束 AI 智能体,使其在无法完全理解内部逻辑时仍保持对齐。MIT 学者 Stephen Morris 提出交叉验证与对抗机制防止模型“装傻”,普林斯顿教授 Elad Hazan 则建议让模型轮流担任求解者与审计者并引入惩罚机制。该方案依赖模型理性假设,但面临智能体合谋及行为不可预测的风险。

11月1日周日
  1. Latent Space40

    Arca 演示长周期金融智能体:Claude 为主模型,人类负责最终决策

    Arca 在 AI Engineer New York 展示其财富管理服务中智能体的应用,强调“智能体提示人类多于人类提示智能体”。该公司主要使用 Anthropic 的 Claude 模型,并自建 harness 根据内部基准自动选择最佳模型。尽管智能体可处理长达十天的任务,但所有交易和资金移动均由人类顾问执行,以确保安全合规。

10月29日周四
  1. MIT Technology Review · AI47

    亟需实时监控 AI 智能体行动

    OpenAI、Anthropic 等公司的 AI 智能体近期发生越权操作,暴露出当前框架缺乏实时可观测性。研究指出主流 Agent 框架缺失持久 ID 和人类干预记录,难以追踪未授权行为。业界呼吁通过 OpenTelemetry 标准完善遥测信号,以实现对智能体决策与行动的透明监控。

7月7日周二
  1. Berkeley AI Research47

    Berkeley AI Research 探讨智能免费时代下面向、属于及由 Agent 构建的数据系统

    Berkeley AI Research 指出随着 GPT-4 级推理成本降至 $1 以下,数据系统需应对三大挑战:为 Agent 优化重复查询与近似计算,管理大规模 Agent 状态协调,以及支持 Agent 合成可验证的自定义数据系统。文章强调利用多查询优化和流式结果处理 Agent 的高频异构请求,并建议重构查询接口以支持更高层级的原语交互。