陷入局部最优?
- sgd:调大学习率
- 换用adam等优化方法
- 递进学习->1000->10000->80000
- 调小batch：（A.全部数据作为一个batch和 B.每个采样作为一个batch）一般用的时候，在非监督训练阶段，可以先用B方法创建初始模型，
然后在监督训练阶段，选择小batch size进行初步训练，让模型跳出局部极值，之后用大的batch size让模型收敛，这样一般能达到比较好的效果
来源： http://www.fx114/qa-10-166186.aspx
损失还很高但是模型不收敛了怎么办？
与本文相关的文章
- 【Docker】快速部署 ChatGPT Next Web，一键免费部署你的私人 ChatGPT 网页应用，支持 GPT3, GPT4 & Gemini Pro 模型。
- 新版ChatGPT网站系统源码（GPT-4大模型支持、联网模型提问、DALL-E3文生图），AI绘画AI视频生成AI智能体
- 基于ChatGPT等大模型快速爬虫提取网页内容
- 1 -《本地部署开源大模型》如何选择合适的硬件配置
- Ps：颜色模型、色彩空间及配置文件
- 史上最贵大模型正式上线：每月200美元的ChatGPT Pro比Plus有何区别？如何订阅升级开通ChatGPT Pro？
- 学生必看！如何用OpenAI GPT大模型轻松搞定论文写作
- 3 -《本地部署开源大模型》win1011 下安装Ubuntu 22.04（桌面版）双系统教程
- 【AI模型对比】Kimi与ChatGPT的差距：真实对比它们在六大题型中的全面表现！
- 第6章 浏览器对象模型1.1 介绍浏览器对象模型(Browser Object Model)--英文简称 BOM，浏览器对象模型提供了独立于内容的、可以与浏览器窗口进行互动的对象结构。我们使用Ja
- 豆包，大模型的磁力三重奏
- Github大模型优质资源分类整理与进一步梳理
- 从零开始训练一个ChatGPT大模型（低资源，1B3）
- 中文大模型基准测评2024年10月报告
- [转]SCOR模型分析-供应链运作参考模型
- Windows本地部署DeepSeek-R1大模型并使用web界面远程交互
- 在windows11本地部署大模型的记录（OLLAMA、AnythingLLM）
- pytorch深度学习框架-训练模型时GPU占用率太低怎么办？如何尽量榨干我们的GPU性能？
- 最新-DeepSeek模型安装Page Assist浏览器插件实现Web UI界面
- 机器学习—模型公平性
评论列表(0)
- 暂无评论