语言相关

c,c++,java,python 的区别，他们的应用场景？

C语言是面向过程的，C++、JAVA、python都是面向对象的。
C，C++都是编译型语言，且都有指针，JAVA,python都是解释性语言，都没有指针

纯虚函数？

被virtual修饰的成员函数，再基类不能实现，而他的实现放到派生类中实现。

什么是内存泄漏？

没有delete

java怎么处理对象分配和释放的？

java把内存分为堆栈空间存储，在堆中new的空间不用自己收回，自动垃圾收回。堆：堆由开发人员分配和释放， 若开发人员不释放，程序结束时由 OS 回收，分配方式类似于链表。
栈：由系统调用所利用---栈由操作系统自动分配释放 ，用于存放函数的参数值、局部变量等生长方向不同。堆的生长方向向上，内存地址由低到高；栈的生长方向向下，内存地址由高到低。

java的特点？java的优缺点

一次编译到处运行，没有指针，完全对象化。

java 为什么和平台无关

在这里插入代码片

java 为啥不能像 c++那样支持多继承

在这里插入代码片

java有哪些数据类型

在这里插入代码片

操作系统

说一说你了解的现有操作系统有哪些、主流的操作系统你了解多少

Windows
Linux起源于Unix
MacOS

什么是操作系统，具有什么特点及功能？/你认为操作系统中最重要的是哪一部分内容
操作系统分为哪几个阶段？
计算机内核的内容是什么？
中断和异常有什么区别？
解释一下并发和并行有什么区别？
解释一下进程与线程的区别？

根本区别：
进程是操作系统资源分配的基本单位
而线程是处理器任务调度和执行的基本单位资源开销：
每个进程都有独立的代码和数据空间（程序上下文），程序之间的切换会有较大的开销；
线程可以看做轻量级的进程，同一类线程共享代码和数据空间，每个线程都有自己独立的运行栈和程序计数器（PC），线程之间切换的开销小。包含关系：
如果一个进程内有多个线程，则执行过程不是一条线的，而是多条线（线程）共同完成的；线程是进程的一部分，所以线程也被称为轻权进程或者轻量级进程。内存分配：
同一进程的线程共享本进程的地址空间和资源，而进程之间的地址空间和资源是相互独立的，一个进程中的线程会共享这些内存和资源

什么是处理机调度，典型的调度算法有哪些？
什么是进程同步，同步与互斥有什么区别？
什么是死锁，说一说死锁产生的原因，与死锁的处理？
内存管理的功能及步骤？
什么是虚拟内存，具有什么特征，虚拟内存的置换算法有哪些？
分页与分段有什么区别？
什么是文件系统，及文件的磁盘调度算法有哪些？
I/O控制方式及层次结构有哪些？
Linux 的优点，进程调度算法有哪些

在这里插入代码片

32 位系统的最大内存空间是多大

说一说银行家算法

在这里插入代码片

段页式的好处是什么

在这里插入代码片

垃圾内存回收的算法设计

在这里插入代码片

组成原理

计算机发展的四个阶段？
什么是冯诺依曼结构及具有什么特点？
计算机工作的过程是什么?
存储器按作用分、按介质分、按存取方式分都有哪些种类？
什么是指令，及常见的寻址方式有哪些？
CISC和RISC的区别？
CPU功能和基本结构是什么？
什么是指令周期？CPU周期？时钟周期？
指令执行方案有哪几种？
什么是总线、为什么要仲裁、及仲裁的方式有哪些？
什么是DMA？
cache的作用是什么

计算机网络

说一说OSI或TCP/IP参考模型及其各层作用?
现在的计算机网络有哪几种标准

在这里插入代码片

OSI、TCP/IP参考模型的异同?
计算机网络按分布范围、传输技术、拓扑结构、使用之、交换技术、传输介质分类？
信号传输有哪几种方式？
三种数据交换的优缺点？
分析一下分组交换中虚电路与数据报的比较?
分析一下数据链路层的三个基本功能？
TCP与UDP的异同？TCP和UDP的区别和适用于什么场景

UDP 协议（如小文件传送、视频传输、实时通信等）
TCP 协议（如大文件传输、重要状态的更新等）

TCP三次握手与四次挥手的过程？

TCP/IP的通信过程（三次握手）
见王道课本

TCP可靠传输机制有哪些?
TCP拥塞控制机制—如何解决拥塞阻塞
应用层:域名系统寻找IP地址的方式？

数据结构

数据结构中链表的优点

在这里插入代码片

如何去掉单链表中的重复元素

在这里插入代码片

链表逆序有哪些方法

1通过头插法实现
通过头插法（两条链表）来实现的。通过遍历原来的链表，将遍历得到的每一个节点都插入到新链表的头结点，然后遍历新链表，得到的就是链表的逆序了。2借用栈/递归程序实现
通过栈来实现的，利用栈先进后出的特性，从而实现链表的逆序

树
二叉树遍历、平衡二叉树的调整

在这里插入代码片

什么是二叉排序树？什么是平衡二叉树？平衡二叉树的应用

在这里插入代码片

什么是红黑树，平衡二叉树和红黑树区别

在这里插入代码片

树的表示方法

在这里插入代码片

计算二叉树深度

在这里插入代码片

图
最小生成树算法—普利姆算法、克鲁斯卡尔算法

在这里插入代码片

最短路径算法—迪杰斯特拉算法、弗洛伊德算法

在这里插入代码片

图的遍历在什么情况下不唯一

在这里插入代码片

查找
动态查找有哪些

在这里插入代码片

排序
冒泡排序最好与最坏的时间复杂度

在这里插入代码片

对成绩管理系统成绩排序用哪种排序算法

在这里插入代码片

堆排序的思想和实现步骤

在这里插入代码片

排序算法稳定性由高到低排序

在这里插入代码片

插入排序

在这里插入代码片

排序算法的稳定性有什么用

在这里插入代码片

两个栈模仿一个队列？
如何判断链表是否有环？
图的遍历DFS与BFS？
最小生成树的普利姆与克鲁斯卡尔方法？
图的最短路径迪杰斯特拉算法？

算法设计与分析

贪心算法，动态规划，分治法的区别与联系？

在这里插入代码片

贪心、分治、动态规划的主要思路和经典应用

在这里插入代码片

递归与分治的思想和好处

在这里插入代码片

深度学习

神经网络可以解决哪些问题？

梯度消失与梯度爆炸

深度神经网络训练的时候，采用的是反向传播方式，该方式使用链式求导，计算每层梯度的时候会涉及一些连乘操作，因此如果网络过深。

产生的原因

靠后面网络层(如layer3)能够正常的得到一个合理的偏导数
但是靠近输入层的网络层，计算的到的偏导数近乎零，W几乎无法得到更新那么如果连乘的因子大部分小于1，最后乘积的结果可能趋于0，也就是梯度消失梯度消失经常出现；
一是在深层网络中，二是采用了不合适的损失函数sigmoid激活函数

解决梯度消失的方法？

1可以考虑用ReLU激活函数取代sigmoid激活函数
relu的主要贡献在于：-- 解决了梯度消失、爆炸的问题-- 计算方便，计算速度快-- 加速了网络的训练2 LSTM的结构设计也可以改善RNN中的梯度消失问题3残差神经网络resnet4批量归一化
batch normalization 翻译成中文就是批规范化，即在每个batch训练的过程中，对参数进行归一化的处理，从而达到加快训练速度的效果
就像激活函数层、卷积层、全连接层、池化层一样，BN(Batch Normalization)也属于网络的一层

梯度爆炸
产生的原因

梯度消失：1. 采用了深层网络。2. 采用了不合适的激活函数，比如sigmoid
梯度爆炸：1. 采用了深层网络。2. 权值初始化值太大的情况下

那么如果连乘的因子大部分大于1，最后乘积可能趋于无穷，这就是梯度爆炸
梯度爆炸的意思是，靠近输入层的网络层，计算的到的偏导数极其大，更新后W变成一个很大的数(爆炸)。

解决梯度爆炸的方法？

1梯度剪枝
设置一个梯度剪切阈值，然后更新梯度的时候，如果梯度超过这个阈值，那么就将其强制限制在这个范围之内2权重正则化
L1正则化与L2正则化---如果梯度爆炸仍然存在，可以尝试检查网络权重的大小，并惩罚产生较大权重值的损失函数3批量归一化BN就是在激活函数接收输入之前对数据分布进行规范化
具体计算就是去均值归一化，将数据的分布都规范到标准正态分布中
使得激活函数的输入值落在函数较为敏感的区域，也即梯度较大的区域，从而避免梯度消失、减少训练时间
因此，BN也通常需要放在激活函数之前。
batch normalization 翻译成中文就是批规范化，即在每个batch训练的过程中，对参数进行归一化的处理，从而达到加快训练速度的效果
就像激活函数层、卷积层、全连接层、池化层一样，BN(Batch Normalization)也属于网络的一层

过拟合与欠拟合—退化

如果防止过拟合？
过拟合：模型把数据学习的太彻底，以至于把噪声数据的特征也学习到了。

Early Stopping
当模型在验证集上的误差比上一次训练结果差的时候停止训练数据集扩增
需要得到更多的符合要求的数据---增大数据的训练量正则化
在目标函数后面添加一个正则化项，一般有L1正则化与L2正则化Dropout
dropout方法是ImageNet中提出的一种方法，通俗一点讲就是dropout方法在训练的时候让神经元以一定的概率不工作。
在前向传播的时候，让某个神经元的激活值以一定的概率 P停止工作，这样可以使模型的泛化性更强。
模型预测时不需要dropout，记得关掉
input 的 dropout 概率推荐是 0.8， hidden layer 推荐是0.5

如何处理欠拟合？/怎样提升网络的泛化能力？
欠拟合：模型没有很好地捕捉到数据特征，不能够很好地拟合数据

从数据上提升性能
1收集更多的数据，对数据做缩放和变换，特征组合从算法调优上提升性能
1权重的初始化，用小的随机数初始化权重。一般情况下都使用随机初始化权值。
不能将所有权重初始化为0，因为这将使您的模型类似于线性模型。所有的神经元和每一层都执行相同的操作，给出相同的输出，使深层网络无用。
2对学习率进行调节
3尝试选择合适的激活函数
4调整网络的拓扑结构
5调节batch(批量大小)和epoch(轮次)的大小---epoch一次：训练时，所有训练数据集都训练过一次深度学习中Epoch、Batch和Iteration的区别是什么?
Epoch —— 表示整个数据集的一次迭代(训练数据的所有内容)。
Batch——指的是因为不能一次性将整个数据集传递给神经网络，所以我们将数据集分成几个批处理进行处理，每一批称为Batch。
Iteration——如果我们有10,000张图像作为数据，Batch大小为200。那么一个Epoch 应该运行50次Iteration(10,000除以50)6添加正则化的方法

退化

准确率下降问题(degradation problem)
层级大到一定程度时准确率就会饱和，然后迅速下降这种下降即不是梯度消失引起的也不是overfit造成的
而是由于网络过于复杂，以至于光靠不加约束的放养式的训练很难达到理想的错误率

神经网络中有哪些正则化技术？

L2正则化（Ridge）; 
L1正则化（Lasso）;
权重衰减;           
丢弃法;
批量归一化;         
数据增强；
早停法‍
对于所有权重，权重衰减方法都会为loss func 加上½λw2

激活函数的作用？

激活函数模拟生物学中的神经元是否应该被激发
来加入非线性因素的，提高神经网络对模型的表达能力，解决线性模型所不能解决的问题1 在前向传播和反向传播过程中，ReLU相比于Sigmoid等激活函数计算量小
2 避免梯度消失问题，能够完成深层网络的训练
3 可以缓解过拟合问题的发生---Relu会使一部分神经元的输出为0，这样就造成了网络的稀疏性Softmax 和 ReLU 函数是什么？Softmax 是一种激活函数，可生成介于 0 和 1 之间的输出。它将每个输出除以所有输出的总和，使得输出的总和等于 1。Softmax 通常用于分类任务的输出层和注意力机制的计算。ReLU是使用最广泛的激活函数。如果 X 为正，则输出 X，否则为零。ReLU 常用于隐藏层的激活函数

学习率太大(太小)时会发生什么？如何设置学习率？‍

学习率作为监督学习以及深度学习中重要的超参，其决定着目标函数能否收敛到局部最小值以及何时收敛到局部最小值。
合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。学习率是指导我们，在梯度下降法中，如何使用损失函数的梯度调整网络权重的超参数

基于经验的手动调整
通过尝试不同的固定学习率，如3、1、0.5、0.1、0.05、0.01、0.005，0.0001等
观察迭代次数和loss的变化关系，找到loss下降最快关系对应的学习率。太小，收敛过程将变得十分缓慢;太大，梯度可能会在最小值附近来回震荡(loss爆炸)，甚至可能无法收敛。会跳过最低点，可能不收敛

什么是数据规范化（Normalization），我们为什么需要它？

规范化将越来越偏的分布拉回到标准化的分布,使得激活函数的输入值落在激活函数对输入比较敏感的区域,
从而使梯度变大,加快学习收敛速度,避免梯度消失的问题。

卷积神经网络—卷积层和池化层有什么区别？

CNN为什么比DNN在图像识别更好？

 DNN的输入是向量形式，并未考虑到平面的信息结构；CNN的输入可以是tensor，例如二维矩阵，通过filter获得局部特征，较好的保留了平面结构信息。越往后的卷积层提取到的特征越抽象池化层：选取特性的主要特征，减少大量参数全连接层：将提取到的特征集合在一起

谈谈对权值共享的理解？

就是用一个卷积核不改变其内权系数的情况下卷积处理整张图片
比如一个3×3×1的卷积核，这个卷积核内9个的参数被整张图共享，而不会因为图像内位置的不同而改变卷积核内的权系数。