美团视觉GPU推理服务部署架构优化实践

面对在线推理服务使用的GPU资源不断增加、GPU利用率普遍较低的挑战,美团视觉研发团队决定通过模型结构拆分和微服务化进行优化,他们提出了一种通用高效的部署架构,…

迈向端云一体 MNN2.0轻量级通用深度学习引擎详解

( 本文阅读时间:20分钟 )
MNN是一个轻量级的深度学习引擎,它通过独特的架构设计,结合各类性能优化的工作,解决了业务场景下深度学习部署的问题。近期MNN…

阿里前端智能化技术探索和未来思考

所以我们2021年选定了两个方向来优化我们的端上引擎:WASM+Rust+SIMD和WebGPU。TensorFlow.js虽然没有使用Rust,但是也在使用W…

达摩院语音AI技术创新全景

作者:陈谦、邓憧、付强、高志付、胡凯、罗浩能、纳跃跃、田彪、王雯、鄢志杰、张仕良、张庆林、郑斯奇(以姓氏首字母排序)
戳这里查看更多AI技术干货👇

( 本文阅…

干货 | 万字长文全面解析GraphQL,携程微服务背景下的前后端数据交互方案

作者简介
古映杰,携程研发高级经理,负责前端框架和基础设施的设计、研发与维护。开源项目react-lite和react-imvc作者。
前言
随着多终端、多平台…

Spring Cloud技术栈还没有学完!Hystrix又双叒叕停止更新了!

今天无意间翻了一下Hystrix代码仓库,无意间看到最近的一条变更,竟然发现Hystrix也不再进行活跃的更新了,停止开发新功能了!后期只是进行维护了!!!
这…

为什么不能用CPU而用GPU挖矿?

首先,CPU可以用来挖矿,最开始都是用CPU挖,但是随着对挖矿算法的深入研究,大家发现原来挖矿都是在重复一样的工作,而CPU作为通用性计算单元,里面设计了很多诸…

从分布式一致性谈到CAP理论、BASE理论!

来源 | 个人博客 | IT · 达人
一、问题的提出
在计算机科学领域,分布式一致性是一个相当重要且被广泛探索与论证问题,首先来看三种业务场景。
1、火车站…

CentOS 7中firewall防火墙详解和配置以及切换为iptables防火墙

官方文档介绍地址:
https://access.redhat.com/documentation/en-US/Red_Hat_Enterprise_Linux…

基于Spring AOP和Groovy日志模板配置的日志记录框架的二次实现与使用案例

一、项目地址
https://git.oschina.net/xuliugen/ufind-businesslog.git

说明
:本框架是基于koala-p…