智能免费之后：面向、属于并由代理构建的数据系统

【AI 翻译 · 未评分】AI成本迅速下降，GPT-4级能力每百万token价格从2023年初的约30美元降至今天低于1美元，部分提供商甚至低于0.10美元。推理价格在基准测试中每年下降9倍至900倍，中位数接近50倍。即使是前沿模型也在逐代大幅降价，开源模型紧随其后。尽管“诺贝尔奖级别”的智能尚未到来，但足以应对绝大多数知识工作的智能已经存在且每月都在变得更便宜。我们即将进入近乎免费的智能时代。这对数据系统意味着什么？作者认为近零推理成本带来三个新挑战与机遇：面向代理的数据系统（代理将成为主导工作负载，需重新设计以适配代理特性）；属于代理的数据系统（需要新的基础架构供数千个代理管理长期任务状态并协调）；以及由代理构建的数据系统。