4 Python机器学习性能优化Python机器学习性能优化 以BERT服务为例例,从1到1000 刘欣 ⽬目录 CONTENTS 1. 优化的哲学 2. 了解你的资源 3. 定位性能瓶颈 4. 动⼿优化 1. 优化的哲学 "There ain't no such thing as a free lunch" Ahmdal’s Law • 系统整体的优化,取决于热点部分的占⽐比和该部分的加速程度 No Free Free Lunch • 定位热点 & 热点加速 • 对于项⽬目开发周期: 1. 先做出效果 2. 确定整体pipeline 3. 再考虑优化 • 对于⼈人⼯工智能项⽬目:迭代周期更更⻓长,更更是如此 以BERT服务为例 • BERT: TODO: ⼀一句句话解释 • 横扫多项NLP任务的SOTA榜 • 惊⼈人的3亿参数 以BERT服务为例 • Self Attention机制 to [MASK] . • Web API: $ curl -X POST http://localhost:5005/predict -d 's=Happy birthday to [MASK].' [“you"] 以BERT服务为例 • 我们现在上线了了这样⼀一个服务,每秒钟只能处理理10个请求 • Q: ⼤大家⼀一开始如何着⼿手优化 • Profile before0 码力 | 38 页 | 2.25 MB | 1 年前3
10 为Python Function自动生成Web UI 彭未康Function 自动生成 Web UI 彭未康 Touch-Callable The web framework for less serious application. Touch-Callable vs (Flask, Django) • Django, Flask • 起步快且容易(getting started quick and easy) • 扩展为复杂应用(scale up to 例子:生成测试用户 例子:生成测试用户 例子:生成测试用户 例子:远程控制饮水机 接下来: • 支持更多的数据类型 • 类型对应的控件可配置 大胆的想法: • 直接使用 Function 构建小型应用的管理后台? • Serverless 管理后台? 谢谢大家0 码力 | 11 页 | 791.38 KB | 1 年前3
PyConChina2022-深圳-Python Web大型项目开发进击之路-黄志武Python大型Web项目进击 之路 主讲人: 黄志武 – 华世界集团创始人 目录 • Python web开发有什么优势 • 现在的python Web 有哪些选择 • 我们到底是在解决谁的问题 • 业务需求和技术需求哪个更重要 • 技术的价值到底在哪里 Python Web开发有什么优势 • 为什么选择python django框架做web开发 • 基于后端数据模型生成的web模板 • 管理后台 现在的python web开发有哪些选择 • 小型web python全栈开发,Django 框架仍然值得推荐 • 轻量的简洁框架 flask依然是很好的选择,不管是用来做api还是全 栈开发 • 异步高性能web框架 fastapi 和 sanic 都是不错的选择 我们到底是在解决谁的问题 • 为什么我还在分享python web开发技术? • 因为web用户是用户群体最广的,不 因为web用户是用户群体最广的,不管是pc端,web端,app端,都需要调用后端的api接口,这些 api接口都是基于web后端技术演化而来 • 只要有需要web开发的,app开发的,拥有数据交互需求的,web和api后端开发需求依然是庞 大的 • 分享一个团队里的问题,别人用python都在搞AI,大数据,物联网这些新的应用领域的高精尖 新技术,我们做python web开发的还有前(钱)途吗? • 用户问题和技术问题:0 码力 | 9 页 | 722.41 KB | 1 年前3
5_刘欣_Python在量化投资领域的应用0 码力 | 50 页 | 16.81 MB | 1 年前3
PyConChina2022-杭州-ARM芯片的Python+AI算力优化-朱宏林ARM 芯片的 Python + AI 算力优化 主讲人: 朱宏林 – 阿里云程序语言与编译器团队 简介 • 当今开发者们大量使用 Python 语言编写的 AI 程序。过去这些程序总跑在 GPU 或者 x86 架构的 CPU 上。然而综合考虑到功耗、成本、性能等因素,云厂商们开始建设 ARM 架构的服务平台,如 何整合 Python + AI 的相关软件并使其在该平台上发挥最高的性能成为了工程师们关注的焦点。 用 ARM 架构新提供的矩阵扩展对 bf16 类型的 矩阵乘法计算进行优化,该优化将纯矩阵乘法的运算速度提升 3 倍以上,对深度学习推理任务性能 提升明显。目前,该成果已经被集成进 OpenBLAS 和 PyTorch 中。 • 本次演讲,将向大家介绍我们在倚天 710 ARM 芯片上开展的 Python + AI 优化工作,以及在 ARM 云平台上部署 Python + AI 任务的最佳实践。 • GEMM 通过优化内存局部性和向量指令,比朴素实现快 10 倍以上 GEMM • 优化 GEMM • 内存布局:矩阵分块;重排 • 向量化指令:AVX、NEON V0 V1 ✕ ✕ ✕ ✕ V2 GEMM 例子 • 优化 GEMM • 内存布局:矩阵分块;重排 • 向量化指令:AVX、NEON 原始算法 展开4x1 向量化 GEMM 例子 • 优化 GEMM • 内存布局:矩阵分块;重排0 码力 | 24 页 | 4.00 MB | 1 年前3
Python在金融领域的应用与创新 王宇韬Python在金融领域的应用与创新 华能贵诚信托有限公司 金融科技实验室 1.Python舆情监控系统 2.华能信托及个人简介 4.华小智金融科技实验室 3.舆情监控详细代码分析 目录 CHAPTER 1 Python舆情监控系统 舆情监控系统 - 视频简介 HUMANS ARE CREATIVE BEINGS. IF IT IS NOT REAL TEXT, THEY WILL ME THE CODE CHAPTER 3 舆情监控详细代码分析 Python舆情监控 4 3 2 6 1 5 百度新闻批量爬取 24小时不间断爬取 舆情预警系统 数据清洗及优化 IP代理与反爬 舆情评分系统 HUANENG GUICHENG TRUST CORPORATION LTD. Python舆情监控 HUANENG GUICHENG TRUST CORPORATION 百度新闻批量爬取 24小时不间断爬取 舆情预警系统 数据清洗及优化 IP代理与反爬 舆情评分系统 HUANENG GUICHENG TRUST CORPORATION LTD. 代码公布平台 - Mo 4 3 2 6 1 5 百度新闻批量爬取 24小时不间断爬取 舆情预警系统 数据清洗及优化 IP代理与反爬 舆情评分系统 HUANENG GUICHENG TRUST0 码力 | 51 页 | 4.69 MB | 1 年前3
2 张孝峰 Python与云 AWS的Python原生应用浅析Python与云 ——AWS的Python原生应用浅析 张孝峰 亚马逊AWS资深解决方案架构师 Python 30周年 Python发展时间线 2019/10 v3.8 v2.7.17 开始实现 1989/12 v0.9.0 1991/2 v1.0.0 1994/1 v2.0 2000/10 v2.5 2006/9 v2.6 2008/10 v3.0 2008/12 2006/7 Amazon EC2 2006/8 开始研发 2004 AWS Lambda 2014/11 2019/10 22个区域 165项服务 Python被称为“瑞士军刀” • Web开发 • AI / 机器学习 • 自动化运维 • 网络爬虫 • 大数据分析 48 82 160 280 516 722 1017 1430 1,957 2009 2011 2012 发布的功能和服务数量 AWS同样功能丰富 AWS向客户提供超过165项功能全面的服务 涵盖计算、存储、数据库、联网、分析、机器人、 机器学习与人工智能、物联网、移动、安全、混 合云、虚拟现实与增强现实、媒体,以及应用开 发、部署与管理等方面。 如何管理和使用海量的云API Amazon Athena Amazon Redshift 超过165项服务 数千个不同的API AWS Tools and SDKs0 码力 | 42 页 | 8.12 MB | 1 年前3
3 在AWS部署与发布你面向全球的Python Serverless应用 谢洪恩0 码力 | 53 页 | 24.15 MB | 1 年前3
许振影 Python 深度学习技术在医学领域的应用与前景疗领域的应用与前景 许振影 目录 CONTENTS Python的数据科学生态 深度学习在医疗领域应用实践 Python的数据科学生态 •Python的数据科学生态 •Python的数据科学生态 •Python的数据科学生态 Kdnuggets&Kaggle :Deep Learning Framework Power Scores 2018 深度学习 在医疗领域应用实践 深度学习在医疗领域论文情况 preprint arXiv:1909.00384, 2019. 机器视觉在医学领域应用 物理驱动 1898-1995 X光、超声、核磁共振 热成像、同位素成像 应用驱动 1990- 影像引导、治疗计划、 多序列核磁、靶向造影 数据驱动 2010- 通过人工智能技术在海量 数据中,挖掘有效信息、 优化诊断与治疗方法 肺结节处理案例-预处理 分割肺实质: 将CT图像中除肺部以外的无用信息剔除 肺部CT预处理流程 肺部区域结构示意 肺结节处理案例-工程 DataLoader Model Trainer Predict 肺结节处理案例-工程 机器视觉在医学领域应用 自然语言处理在医疗中的应用 自然语言处理在医疗中的应用 医疗应用与前景 • 起步阶段 标准制定 FDA,CFDA认证 医疗器械认证 标准资源库、标准测试集 因果性/可解释性 • 未来发展 多模态、多器官、多维诊疗 物联网0 码力 | 17 页 | 1.84 MB | 1 年前3
PyConChina2022-深圳-一个文科生的Python应用进阶之路-缪振海一个文科生的Python应用进 阶之路 主讲人: 缪振海 – Web3产品经理 一个文科学渣的辛酸血泪史 一个文科学渣的辛酸血泪史 职场萌新 一个文科学渣的辛酸血泪史 初识Python 非科班的文科学渣的尴尬面试 一个文科学渣的辛酸血泪史 学习Python 从运营到产品的岗位转型 一个文科学渣的辛酸血泪史 一个职场萌新的蜕变 一个职场萌新的蜕变 社会老鸟 一个职场萌新的蜕变0 码力 | 17 页 | 615.68 KB | 1 年前3
共 581 条
- 1
- 2
- 3
- 4
- 5
- 6
- 59













