交互式Agent系统的设计
一篇阿里博文引发的思考和探索
一篇阿里博文引发的思考和探索

新业务,新挑战!
入职一月内为公司解决当前面临的两大难题,获得公司CEO表彰 ~ 以下为 7 月份版本,后续又进行了更多迭代和优化 PaddleOCR 项目背景 我们遇到的主要问题是PaddleOCR在昇腾服务器上推理速度显著偏慢,无法满足生产需求,而且由于...
MCP已经火了很长一段时间了,现在自己编写体验一下,本篇将介绍如何用TS实现MCP服务。

离职倒计时
PocketFlow 轻量 Agent 框架学习笔记,介绍节点结构与 workflow 编排要点。
使用MindIE推理大模型,并用Benchmark进行性能测试。

稳定与动荡的四月。这个月不算忙,只是工作上在稳定与动荡之间切换着。
PyTorch官方提供了昇腾插件包,安装后虽然可以支持PytorchOCR和PaddlePaddle的推理任务,但性能通常低于GPU。为了充分发挥昇腾硬件的潜力,可以采用离线推理方案:
使用910B3芯片