咱今天来聊聊在人工智能领域里,特别重要的两个神经网络:循环神经网络(RNN)和长短时记忆网络(LSTM),主要讲讲它们在自然语言处理里的应用。你想想,平常咱们用手机和别人聊天、看新闻、听语音助手说话,背后说不定就有 RNN 和 LSTM 在帮忙呢!
二、RNN 是什么?
(一)基本原理
RNN,简单来说,就是一种能处理序列数据的神经网络。啥是序列数据呢?像咱们说的话,一个字接着一个字,这就是序列;还有股票价格随时间的变化,也是序列数据。RNN 的特别之处就在于,它能记住之前的信息,然后用这些信息来处理当前的任务。
比如说,我们要判断 “我今天很开心,因为我中了彩票” 这句话的情感倾向。RNN 在处理到 “因为我中了彩票” 的时候,它能记得前面说的 “我今天很开心”,这样就能更准确地判断出整句话是积极的情感。
从结构上看,RNN 有一个个的单元,这些单元像链条一样连起来。每个单元都会接收上一个单元的输出,再结合当前输入,