transformer标签_腾讯云开发者社区

transformer

ops-transformer：AI 处理器上的高性能 Transformer 算子库

自注意力（Self-Attention）机制的引入，使得 Transformer 模型在自然语言处理（NLP）领域掀起了一场革命，并迅速扩展到计算机视觉、语音识别乃至多模态学习等诸多前沿领域。然而，Transformer 模型，尤其是其核心的注意力机制，带来了巨大的计算开销和内存需求。为了在 AI 处理器上高效运行这些模型，一套高度优化的底层算子库变得至关重要。正是 CANN 软件栈中专注于为 T

2302_81115588
2026-02-10 16:20:44

 369

 3

#人工智能 #transformer #深度学习
网易数帆EasyData使用Cloudera CDP、CMP(华为鲲鹏版)作为底座的AI功能操作步骤

网易数帆EasyData支持以Cloudera CDP或华为CMP（鲲鹏ARM版）为数据底座的AI增强分析方案。该方案通过JDBC/ODBC接入CDP/CMP数据源，利用EasyData内置AI引擎实现自然语言查询（ChatBI）、时序预测和异常检测等功能。实施步骤包括：1）配置数据源连接（支持Kerberos认证）；2）同步元数据并创建逻辑表；3）启用AI功能模块。特别针对华为CMP需注意ARM

yumgpkpm
2026-01-05 19:22:02

 1162

 8

#cloudera #大数据 #深度学习 +4
多模态大模型爆火背后：视觉Transformer如何让LLM看懂世界？

多模态能力让LLM突破了纯文本的限制，能够处理图像、音频等多种数据类型，大幅拓展了应用场景。视觉Transformer（ViT）通过将图像分割成图像块并进行线性嵌入，实现了与文本处理统一的架构，为多模态模型奠定了基础。ViT的核心创新在于“图像分词”思想——将图像转化为Transformer可理解的“视觉词汇”，保留了原始编码器的架构特性。跨模态联合嵌入通过对齐不同模态的向量空间，让模型能够建立图

 闵浮龙
2026-03-12 15:08:55

 534

 9

#transformer #深度学习 #人工智能
SAM-Swin：SAM驱动的双Swin Transformer与自适应病灶增强用于喉咽部肿瘤检测/文献速递-大模型与图像分割在医疗影像中应用

图4.病灶感知增强模块（LAEM）的图示。本研究提出了一种创新的SAM驱动双Swin Transformer网络SAM-Swin，通过整合SAM2引导的病灶定位、多尺度病灶感知增强模块和多尺度类感知指导损失，实现了对喉咽部肿瘤的高精度检测和分类，并在三个临床数据集上显著优于现有先进方法，为早期LPC诊断提供了强大的自动化工具。其中，(a) M1（仅WIB），(b) M2（仅LRB），(c) M3（

有Li
2026-03-12 16:03:28

 216

 5

#transformer #深度学习 #人工智能 +1
【深度学习精通】第30章 | 语音深度学习 - 让机器听懂人类语言

本文介绍了语音深度学习的基础知识和关键技术，主要包括语音信号处理和深度学习模型应用。首先讲解了语音信号的物理特性、数字化过程及时频分析方法，包括STFT和梅尔频谱。接着详细介绍了常用语音特征提取方法，如MFCC及其差分特征。在语音识别部分，重点阐述了CTC和Attention两种核心机制的原理与实现，并提供了PyTorch代码示例。文章涵盖语音识别、合成等任务，适合具备Python和深度学习基础的

 所谓伊人，在水一方333
2026-03-27 09:36:11

 438

 10

#深度学习 #人工智能 #剪枝 +2
编译安装CUDA版本的opencv-python包

本文介绍了如何在Linux服务器上从源码编译安装支持CUDA加速的OpenCV-Python。首先需要准备GPU驱动、CUDA工具链和编译环境，然后下载OpenCV及contrib源码。通过cmake配置编译参数，包括指定CUDA路径、显卡计算能力等关键选项。编译过程利用多核并行加速，最终安装到Python环境。文章提供了详细的步骤说明和参数解释，帮助用户解决预编译版本不支持GPU加速的问题。编译

 cyclinbox
2026-04-01 09:19:05

 511

 10

#opencv #python #人工智能 +4
顶会热门！Transformer结合UNet做图像分割，效率翻倍！

UNet与Transformer的融合模型正成为医学影像、遥感分割等领域的研究热点。UNet擅长局部特征提取但长程建模不足，Transformer能捕捉全局依赖但计算成本高，二者互补形成高效架构。

沃恩智慧
2026-03-11 20:00:00

 365

 4

#transformer #深度学习 #人工智能
项目介绍 MATLAB实现基于Transformer编码器进行多变量单步光伏功率预测的详细项目实例（含模型描述及部分示例代码）专栏近期有大量优惠还请多多点一下关注加油谢谢你的鼓励是我前行的动力

本文介绍了一个基于Transformer编码器的光伏功率预测MATLAB项目。项目通过多变量融合（气象数据、历史功率等），利用Transformer的自注意力机制捕捉时序依赖关系，实现单步光伏功率预测。详细内容包括：1) 项目背景与意义，指出传统方法的局限性；2) 模型架构设计，包括数据预处理、位置编码、多头注意力机制等核心模块；3) MATLAB实现示例，展示了输入编码层和注意力计算的代码片段。

xiaoxingkongyuxi
2026-04-10 18:45:00

 52

#matlab #transformer #开发语言 +4
Transformer十年演进

Transformer架构在十年间（2015-2025）完成了从实验室技术到智能文明基石的蜕变。2017年提出的自注意力机制彻底改变了序列建模范式，2018年BERT验证了自监督预训练的威力。2020年GPT-3开启了生成式AI时代，2021年ViT实现了视觉与语言的架构统一。到2025年，Transformer已进化为具备深度推理能力的系统级智能：支持内核级eBPF安全审计、1.58-bit极致

 jzwspace
2026-02-11 10:54:26

 484

 5

#transformer #深度学习 #人工智能 +4
【说话人日志】从 BLSTM 到 Self-Attention：SA-EEND

摘要：论文《End-to-End Neural Speaker Diarization with Self-Attention》（SA-EEND）提出将原始EEND模型中的BLSTM编码器替换为自注意力机制，以更好地建模说话人分割任务中的全局和局部信息。SA-EEND通过逐帧多标签分类和置换不变损失进行训练，实验表明其在模拟和真实数据集上均显著优于BLSTM-EEND，尤其在重叠语音场景下表现更

 weixin_45234741
2026-03-31 17:31:31

 488

 9

#语音识别 #人工智能 #transformer
元宇宙办公室血案：虚拟化身引发的职场霸凌——软件测试视角下的虚拟职场霸凌与防御机制探讨

《元宇宙职场霸凌：虚拟暴力与测试伦理新挑战》文章揭示了元宇宙办公环境中新型职场霸凌的隐蔽性特征：通过虚拟化身骚扰、权限操控和环境隔离等手段实施精神压迫。相比传统职场，这种技术赋权的霸凌更难取证，常被包装成"合理操作"。测试工程师面临双重角色——既是潜在受害者，又是系统防线的构建者。文章提出三大应对策略：开发行为审计预警系统、建立不可抵赖的举报流程、设计虚拟场景回溯功能，强调应

 2501_94449023
2026-04-03 11:10:45

 267

 6

#transformer #生成对抗网络 #深度学习 +4
代码审查大师课：从反馈到影响力

在软件质量保障体系中，代码审查（Code Review）不仅是开发人员的责任，更是测试工程师发挥专业影响力的战略高地。作为软件测试从业者，您从用户场景、异常路径和系统边界出发的视角，能精准识别开发流程中的潜在风险点。测试视角优势：利用等价类划分、边界值分析经验，预判代码中的逻辑漏洞（如循环边界溢出、空指针异常）需求-代码一致性验证：检查代码是否实现需求文档中的隐性约束（如权限校验粒度）“通过代码审

 2501_94449023
2026-04-15 15:26:30

 422

 5

#压力测试 #ux #开发语言 +4
AI失业潮？2026年软件开发岗位真相

柏林罢工事件是软件测试行业的预警信号，但绝非终局。当企业为AI安全测试师支付65%的薪资溢价（普华永道数据），当“智能体编排能力”成为岗位新刚需，测试从业者正从被动替代走向主动进化。拥抱AI工具链 × 深耕垂直领域 × 死守伦理安全这场变革的本质不是岗位消亡，而是价值转移——唯有成为驾驭AI的“质量赋能工程师”，方能从失业潮的漩涡中破浪而出。

2501_94449023
2026-04-13 15:13:18

 490

 6

#压力测试 #开发语言 #ux +4
Transformer+UNet：顶会的“发文密码”，思路对了结果真香！

Transformer与UNet的结合已成为图像分割与生成领域的主流架构，虽已广泛应用，但在轻量化设计、跨模态适应、3D与视频扩展、以及可解释性等方面仍具创新潜力。针对数据稀缺、模型效率等实际局限，在具体应用场景中提出改进，仍易于产出高水平论文。尤其在眼科OCT分割、病理切片分析等数据特征鲜明的垂直领域中，结合任务特点设计方法，能够凸显研究的实用价值与针对性。若你对该方向感兴趣，建议从近期前沿成果

 马拉AI
2026-01-13 10:28:08

 576

 14

#transformer #深度学习 #人工智能
【多模态模型学习】从零手撕一个Vision Transformer（ViT）模型原理篇

ViT论文摘要：本文提出Vision Transformer（ViT），首次将纯Transformer架构成功应用于大规模图像识别任务。传统CNN依赖局部卷积操作，难以建模图像全局依赖关系且计算效率受限。ViT创新性地将图像分割为16×16的块（Patch），线性映射为序列化Token后输入标准Transformer编码器。通过引入可学习的[CLS] Token和位置编码，ViT在ImageNe

骑着拖拉机去旅行
2026-03-16 11:42:34

 463

 9

#transformer #深度学习 #人工智能
⭐ 深度学习入门体系（第 16 篇）: ViT：为什么 Transformer 能征服图像世界？

Vision Transformer (ViT) 颠覆了CNN在图像处理领域的统治地位。传统CNN存在局部视野局限、长距离关系建模困难等问题，而ViT通过将图像分割为小块(patch)并采用Transformer架构，实现了全局信息处理能力。ViT的核心优势在于注意力机制能动态关注重要区域，无需像CNN那样堆叠多层来扩大感受野。实验证明，ViT在大规模数据下表现优异，模型扩展性更强，且与预训练范式

 weixin_43679228
2026-01-13 13:41:48

 725

 14

#深度学习 #transformer #人工智能
李宏毅self attention和transformer学习笔记

在实际训练时和AT不同之处在于数据看到的不是训练过程中的输出而是真实输出前面的位置，比如语音识别机器学习到汉字机器学习，学习器的时候要输入真实的机给模型，但是真实情况是使用输出的内容作为输入的末尾。区别是后者支持并行，但是训练起来更困难，需要的数据更多 AT在输出时是会逐个输出并且把新的输出当成下一步decoder的输入，NAT是一次输入多个BEGIN。在真实计算时，encoder的输出部分，很

 蒸蒸yyyyzwd
2026-03-08 13:35:13

 61

#transformer #深度学习
Transformer+UNet，发文的不二选择！思路设计得好，顶会没烦恼

------正文开始--------近两年已经成为图像分割、生成等任务的标配架构。顶会和相关顶刊持续接收该方向的创新工作。就发文情况来看，这对组合虽然火了好久，确实竞争激烈，但在轻量化、跨模态适应、3D/视频扩展、可解释性等细分方向还是有不少创新空间的。如果能在特定应用场景中解决现有局限（数据稀缺、模型效率这类），也很容易产出论文。讲更具体点，比如眼科OCT分割、病理切片分析等数据特征鲜明的垂直领

 程序员小嬛
2026-01-16 15:59:45

 697

 7

#transformer #深度学习 #人工智能 +2
这是一份大模型应用学习路线！（附学习资料）

大模型技术快速发展，应用前景广阔。本文推荐系统学习路线：1）提示词工程；2）检索增强生成（RAG）；3）模型微调；4）模型部署；5）AI系统实践。学习后可参与开源项目，掌握大模型应用开发技能。资料包含学习指南、实战案例、视频课程等，适合零基础入门，助力职业发展。获取方式见文末。

代码输入中...
2026-01-05 11:17:17

 900

 33

#学习 #人工智能 #深度学习 +1
Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 论文精读

SwinTransformer是一种创新的分层视觉Transformer架构，通过移位窗口机制实现高效的自注意力计算。它将图像分割为不重叠的局部窗口，在窗口内计算自注意力，并通过移位策略建立跨窗口连接。这种设计具有线性计算复杂度，并能生成多尺度特征表示，适用于分类、检测和分割等多种视觉任务。实验表明，SwinTransformer在COCO和ADE20K等基准上超越了现有方法，为视觉与语言的统一建

 Youngic
2026-01-29 11:51:12

 813

 22

#transformer #深度学习 #人工智能 +2
【arXiv26-Intellindust AI Lab】EdgeCrafter：面向密集预测中轻量级视觉Transformer的任务特定蒸馏与边缘友好设计

另一方面，现有轻量级ViT的设计多为通用型，未针对密集预测的逐像素分析特性做优化，且传统的模型蒸馏技术缺乏任务针对性，大模型的“能力”无法有效传递给小模型，导致轻量级ViT在图像分割、目标检测等密集预测任务中精度表现不佳，难以满足实际应用需求。：区别于传统泛化的模型蒸馏，该技术专为视觉密集预测任务定制，让训练成熟的大尺寸高精度ViT模型，把针对逐像素分析、目标特征提取、区域分割的“专属本领”精准传

 是王同学呀
2026-04-03 00:09:09

 360

 7

#人工智能 #transformer #深度学习
Python实现基于BO-Transformer-BiLSTM贝叶斯优化算法（BO）优化Transformer-BiLSTM组合模型进行多变量时间序列预测的详细项目实例（含完整的程序，GUI设计和代码

深度学习Python实现基于BO-Transformer-BiLSTM贝叶斯优化算法（BO）优化Transformer-BiLSTM组合模型进行多变量时间序列预测的详细项目实例（含完整的程序，G资源-CSDN下载https://download.csdn.net/download/xiaoxingkongyuxi/92292186深度学习Python实现基于BO-Transformer-BiLST

xiaoxingkongyuxi
2026-01-21 12:15:00

 711

 15

#python #transformer #算法 +4
质量保障的范式革命：从孤岛到共生生态

2026年软件测试领域迎来结构性变革：AI驱动测试左移，与开发运维深度耦合，催生"AI质量工程"新学科。技术层面呈现三大特征：智能测试生成效率提升85%、DevSecOps闭环质量流缩短发布周期67%、云原生测试矩阵实现千倍提速。测试工程师角色向"质量架构师"转型，核心能力重构带来薪资两极分化，AI测试架构师年薪达80-120万。实践指南提出人机协作、工具栈

 2501_94449023
2026-04-14 11:04:52

 275

 5

#压力测试 #开发语言 #transformer +4
018、图像分割：语义分割与实例分割模型

昨天深夜调一个分割模型，输入尺寸改到512x512后，mIoU直接从0.78掉到0.62。盯着输出张量看了半小时才发现，原来是卷积层padding没跟着调整，特征图尺寸对不上，最后上采样时边缘信息全乱了。这种细节问题在分割任务里太常见了，今天就来聊聊语义分割和实例分割那些实战中的门道。

Day-u
2026-04-07 21:18:06

 700

 22

#深度学习 #transformer #人工智能
时间序列模型发展历程（第七讲：Attention / Transformer）

你现在这个学习深度，我会给你一句研究者级别的建议不要问“哪个模型最好”要问“我对时间做了什么假设”模型只是假设的容器。END.时间序列模型发展历程（第一讲：AR/MA/ARMA)-CSDN博客时间序列模型发展历程（第二讲：平稳性危机与ARIMA诞生、SARIMA）-CSDN博客时间序列模型发展历程（第三讲：指数平滑法 / Holt / Holt-Winters)-CSDN博客时间序列模型发展历程（

kkkkkkkkkasey
2026-02-10 15:11:10

 734

 15

#transformer #深度学习 #人工智能
Agent数据治理实战教程（非常详细），自动化清洗与血缘追踪从入门到精通，收藏这一篇就够了！

今天就手把手教大家，用 Agent 实现数据治理三大核心场景——**自动化清洗、智能标注、全链路血缘追踪**，全程附实战代码，新手也能跟着做！

Python编程杰哥
2026-03-10 16:34:09

 611

 9

#自动化 #数据库 #java +4
混淆矩阵玩不转？场景里它的 “正反” 格式能坑哭算法工程师——两分钟带你搞明白

摘要：混淆矩阵是评估机器学习模型的核心工具，包含TP、TN、FP、FN四种判断结果。在安全领域（如入侵检测），正样本通常代表攻击流量，负样本为正常流量。混淆矩阵存在两种常见格式：理论标准格式（正例在前）和Python sklearn格式（负例在前）。关键指标如精确率（Precision）和召回率（Recall）存在权衡关系，安全场景更关注高召回率（减少漏报）。F1分数适合处理样本不平衡问题，而准确

 程序员：钧念
2026-01-12 22:48:53

 1137

 24

#算法 #深度学习 #transformer +2