《新范式 新时代 新机会》为主题的分享活动,陆奇博士以“新范式”为核心,分享了他对当前技术变革的观点,基于演讲整理了文字稿,也同步分享完整的PPT和视频,欢迎大家一起交流。
下载PDF文件:
《ChatGPT研究框架(2023)》
experience-sharing/02-ChatGPT/ChatGPT研究框架(2023).pdf at main · wangyingjie/experience-sharing · GitHub
《陆奇深圳演讲(2023年4月23日)》
experience-sharing/02-ChatGPT/陆奇深圳演讲(2023年4月23日)-真正完整版.pdf at main · wangyingjie/experience-sharing · GitHub
(分享人:陆奇,奇绩创坛创始人兼 CEO,曾任百度集团总裁兼 COO、微软全球执行副总裁、雅虎执行副总裁等,毕业于卡耐基梅隆大学,获计算机科学博士。)
一、新范式
(一)新范式的内在结构、发展体系
(二)从数字化产业发展维度看新范式
(三)从技术驱动人类发展的维度,看新范式
(四)新范式的社会影响
(五)新范式的缔造者
(六)新范式的动力引擎
(七)新范式的演化路径:进化体系新物种
二、新时代
(一)产业发展的扩散结构与体系
(二)Open AI生态快速形成
(三)开发堆栈雏形高速发展
(四)经济发展格局
(五)新产业发展不断加速(海外)
(六)新产业发展不断加速(中国)
三、新机会
(一)全方位探索把控:“人+事”的机会空间
1. “人+事”的探索框架
2. 机会在哪里
(二)“事”的机会空间
1. 事的三个机会版块
2. 完整系统的机会探索体系
(三)数字化基础的机会
(四)数字化应用的机会
1. 信息知识
2. 内容
3. 游戏
4. 消费|电商
5. 社交|社区
6. 通讯
7. 医疗
8. 教育
9. 开发者
10. 设计师
11. 研究员(科研)
12. OA/办公
13. 营销与客户
14. ERP
15. 生产制造
16. 政府城市
(五)改造世界
1. 新能源科技
2. 新生命科技(生命科学)
3. 新材料科技(材料科学)
4. 新空间科技
(六)新执行环境
(七) “人”的机会空间
(八)基础范式的演变
驱动
新
范式
的引擎:GPT
模型
体系 能高效地压缩信息表达世界知识 能持续提高泛化能力(涌现,子概念空间等) 能更有效更可延申地对齐(自然语言,价值等) 能足够并持续地充分利用更多有效算力 能用好充足的token/模态和有效地token化 能有效地参数扩展,小型化,本地化 能有效地扩展任务领域和专业知识
可预见和可持续的技术发展 不断提高核心
模型
基础研究和工程开发进程 更高效益:鲁棒性,稀疏性、宽度和循环等 更强能力:涌现,子概念泛化,神经/符号,因果等 更多对齐:挖深拓宽潜在空间(Latent Space) 更多模态:图像/视频/其他,及Token化 更多领域:
模型
扩展性和适应性 更强工程:计算/通讯系统、基础设施、工具链
ChatGPT是自然语言处理(NLP)中
最新
、最先进的
模型
之一,全称为“Generative Pre-trained Transformer”。它使用深度学习
模型
来生成高质量的文本内容,包括对话、文章、诗歌等。ChatGPT最初由OpenAI团队在2018年提出,并在2019年和2020年分别推出了第二代和第三代版本。
ChatGPT采用了Transformer网络结构,这是一种基于自注意力机制的神经网络架构。通过Transformer网络结构,ChatGPT可以捕捉文本中的长期依赖关系,并生成连贯、流畅的文本内容。此外,ChatGPT还采用了预训练的方法,即在大规模数据上进行无监督学习,从而提高
模型
的泛化能力和表现。预训练过程中,ChatGPT通过学习数据中的结构和规律,获得了对自然语言的理解和表达能力。
ChatGPT的优势在于它可以生成高质量的文本内容,并在多种NLP任务中取得了相当好的成果。例如,在2020年发布的GPT-3版本中,即使在未经过任何微调的情况下,GPT-3在很多自然语言处理任务中也能够达到甚至超越人类水平的表现。
1. 王垠(Yin Wang):计算机科学家,关注人工智能、编程语言等领域。
2. 陈素封(Suifeng Chen):前 Google 软件工程师,现任企业架构师。专注于架构设计、软件工程等方面的知识分享。
3. 田春雪:全栈工程师,关注前端技术、Node.js 等领域。
4. 贺师俊:计算机科学家,关注机器学习、自然语言处理等领域。
5.
陆奇
:互联网产品和运营专家,曾任百度公司副总裁和微软公司亚太区总裁。
这些专家在 Medium 上的文章和专栏都有很高的质量和关注度,您可以关注他们的账号,获取更多相关领域的知识。同时,Medium 平台上也有很多其他优秀的作者和专家,可以根据自己的兴趣和需求进行搜索和关注。