tensorflow

本篇文章主要进行Transformer模型的搭建，并且训练模型，attention可视化，并进行示例的展示

本篇文章主要介绍Transformer模型的基本思想，斌且使用Transformer模型来实现机器翻译

本篇住哟啊介绍如何使用tensorflow进行机器翻译，并使用Seq2seq+attention来搭建模型进行机器翻译

本篇文章主要介绍tflite保存与理解与量化，将keras model 转化为tflite，将concrete_function 转化为tflite，将SavedModel 转化为tflite

本篇文章介绍模型保存与部署。进行Keras模型转化为，签名函数转化为SavedModelSavedModel，签名函数、SavedModel和keras模型到具体函数转换方法的介绍

本篇主要介绍使用tensorflow_datasets中的imdb数据使用subword_level来进行文本分类的方法

本篇主要介绍LSTM长短期记忆网络，为什么需要LSTM？并且使用LSTM完成文本分类和文本生成的实战。

本篇主要进行循环神经网络的文本生成实战，详细讲解如何利用随机采样的方法来进行文本生成，以及文本生成的效果。

本篇解释为什么需要循环神经网络（合并+padding的缺点），序列问题和循环神经网络的结构，并且使用循环神经网络来进行文本分类

本篇主要介绍embedding与变长数据处理问题，并且使用embedding，avgpooling加padding对imdb数据集进行文本分类的实战

深度可分离卷积 深度可分离卷积是普通卷积操作的一个变种，它可以替代普通卷积，从而构成卷积神经网络 模型结构

卷积神经网络的公式：（卷积层+（可选）池化层*N+全连接层*M（N>=1,M>=0)，必须有卷积层，可以没有全连接层

Tensorflow是什么 Google的开源软件库 数据流图 特性： Tensorflow历史 2015.11宣布开源并首次发布 2015.12支持GPUs，python3.3 2016.4分布式T

Estimator是tensorflow推出的一个High level的API，用于简化机器学习，封装了训练、评估、预测、导出以供使用所有的相关流程

tfrecord基础API的使用 tfrecord 是一个 文件格式 里面存储的内容都是tf.train.Example tf.train.Example里面都是tf.train.Features -

dataset基础API的使用 从内存中去构建数据集 对于构建的dataset可以做什么呢？ 最基础的就是遍历，重复读取，取数据等

自定义求导：（近似求导数的方法） 让x向左移动eps得到一个点，向右移动eps得到一个点，这两个点形成一条直线，这个点的斜率就是x这个位置的近似导数。 eps足够小，导数就足够真。

tf.function 可以把普通语法写的python函数变成tensorflow的图 autograph 是 tf.function依赖的一个机制 定义一个普通的python函数

调用基本的库 定义一个常量 op numpy conversion Scalars 零维 strings 字符串 string array ragged tensor 不完整的矩阵（不规则） ops

超参数搜索 为什么要超参数搜索？ 神经网络有很多训练过程中不变的参数 网络结构参数：几层，每层宽度，每层激活函数等 训练参数：batch_size，学习率，学习率衰减算法 手工人力耗费时间 搜索策列：