OpenAI开发者大会推出四大创新：提示词缓存可减少50%输入token成本...

浏览 327 次 标签： 开发者大会    美元    图像   

AMD发布首个AI小语言模型：6900亿token、推测解码提速3.88倍...

浏览 367 次 标签： AMD    AI   

火山引擎谭待：日均10亿tokens是企业AI转型门槛...

浏览 343 次 标签： AI    火山引擎    转型   

半年增长超10倍！李彦宏：文心大模型日调用量超6亿，日均Tokens使用量约1万亿,李彦宏,文心,调用量,百度,大模型,人工智能...

浏览 46 次 标签： 文心    调用量    百度    李彦宏    人工智能    大模型   

苹果让大模型学会偷懒：更快吐出第一个token，准确度还保住了...

浏览 317 次 标签： 模型    剪枝    LLM    token   

万亿token！史上最大多模态数据集诞生...

浏览 202 次 标签： html    图像    过滤   

豆包大模型日均tokens使用量超5,000亿，火山引擎全栈AI服务升级助企业加速AI转型...

浏览 355 次 标签： 企业    模型    AI    火山    豆包   

单卡A100实现百万token推理，速度快10倍，这是微软官方的大模型推理加速...

浏览 397 次 标签： 注意力    推理    微软   

从RLHF到DPO再到TDPO，大模型对齐算法已经是「token-level」...

浏览 205 次 标签： 算法