AI 算法中台开源！ JAVA AI 算法中台-千知

AI 算法中台开源！ JAVA AI 算法中台

源代码

https://www.gitpp.com/berry/projects060780090901

目录说明

data/algorithm_model : 算法模型库，提供了作者训练并部署的5个常用算法模型,包括.pt .onnx .engine 三种格式

data/doc : 算法中台接口文档

data/front_code : 项目前端Vue代码

data/linux : linux下的onnx和tensorrt推理运行代码

data/windows : windows下的onnx和tensorrt推理运行代码

data/sql : 项目数据库

src : 项目后端springboot代码

此开源项目介绍

一、系统架构与技术栈

核心框架

：基于SpringBoot构建后端服务，提供稳定可靠的Java应用开发环境。
容器化部署

：采用Docker技术，实现应用的快速部署与资源隔离，便于在不同环境中迁移与扩展。
GPU加速计算

：结合Cuda与Cudnn库，充分利用Nvidia Tesla T4 GPU的并行计算能力，加速深度学习模型的推理运算。
深度学习框架

：使用PyTorch作为深度学习框架，提供灵活高效的模型训练与推理接口。
模型优化与部署

：支持ONNX模型格式，便于模型在不同平台间的迁移；同时，利用TensorRT对模型进行优化，进一步提升推理速度。
目标检测模型

：采用Yolov8作为核心目标检测模型，实现对人、车、火灾烟雾、河道漂浮物、道路裂痕等多种目标的实时识别。
视频处理与推流

：使用ffmpeg进行视频解码与编码，通过zlmediakit流媒体服务器实现视频的实时推流，支持在Web页面上同时查看原始视频与实时计算视频。
文件存储与消息队列

：利用Minio作为文件服务器，存储推理结果与对应的图片；通过RocketMQ消息队列，实现推理结果的异步传输与处理。

二、系统功能

实时目标识别

：系统能够实时识别视频中的人、车、火灾烟雾、河道漂浮物、道路裂痕等目标，并将识别结果以标注框的形式叠加在视频上。
视频推流与展示

：将处理后的视频通过zlmediakit流媒体服务器推流到Web页面，支持在页面上同时查看原始视频与实时计算视频。
推理结果存储与传输

：每隔1分钟，系统将推理结果信息与对应的图片推送到Minio文件服务器与RocketMQ消息队列，便于开发者获取推理结果进行业务开发。
多推理方式支持

：系统支持基于ONNX的推理运算与基于TensorRT的加速推理运算两种方式，只需在调用时传递不同参数即可切换。
跨平台兼容性

：系统同时支持Linux与Windows环境，代码自动判断运行环境并执行对应的.bat或.sh脚本文件以启动AI模型推理。

三、系统优势

高性能推理

：利用GPU加速计算与TensorRT模型优化，实现高性能的实时推理运算，视频无延迟无卡顿。
开箱即用

：项目包含前端与后端完整代码，提供详细的部署文档与示例，便于开发者快速上手与部署。
灵活扩展

：系统支持多种推理方式与跨平台兼容性，便于开发者根据实际需求进行灵活扩展与定制。
商业应用友好

：基于Python库的推理技术栈已拥有非常高的性能，能够满足商业应用需求；同时，提供C++推理代码的获取途径，便于追求极限性能的商业应用。

四、总结

该AI算法中台系统是一个集成了多种先进技术与工具的综合性平台，旨在为JAVA开发者提供训练、部署、使用AI模型的便捷途径。系统通过利用GPU加速计算、TensorRT模型优化等技术，实现了高性能的实时推理运算；同时，支持多种推理方式与跨平台兼容性，便于开发者根据实际需求进行灵活扩展与定制。此外，系统还提供了完整的代码与部署文档，使得开发者能够快速上手与部署，为AI模型的商业应用提供了有力支持。

AI 算法中台开源！ JAVA AI 算法中台

源代码

https://www.gitpp.com/berry/projects060780090901