TensorFlow 源码
截止到目前为止，TensorFlow 在 【Github】 的 Contributors 已经接近900人，Fork 30000次。
学习这么庞大的开源项目，首先必须要搞清楚其代码组织形式，我们先来看目录结构：
Project 目录分为4个：
1）tensorflow
核心代码目录，图中可以看到其子目录结构，后面我们会展开讲解。
2）third_party
第三方库，包括：eigen3，fft2d，hadoop，mkl，probuf 等。
3）tools
只有两个文件 bazel.rc 和 tf_env_collect.sh。
4）util/python
存放用到的 python 工具。
另外一个比较重要的文件是 configure，用于配置 tensorflow 的安装环境。
对于 tensorflow 核心目录，里面比较关键的几个模块：
1.1）core
这是 tensorflow 的核心代码模块.
1.2）tensorboard
不用解释，应该都清楚，这是可视化工具 tensorboard 的代码目录。
1.3）stream_executor
tensorflow 流图的并行计算执行，核心代码。
1.4）go，java，python
主要的第三方 API。
1.5）contrib
存放有其他项目贡献者添加的相关贡献代码，非核心官方代码，有具体方向的应用可以参考这里面的模块。
二. 核心代码目录 Core
Core 目录是代码最核心的部分，包含 框架、图、会话、runtime 最核心的部分，主要模块包括：
common_runtime：公共运行库，包含 会话（session）、线程（thread），内存管理（memory）, 设备调度（device）等基本运行库。
distributed_runtime：分布式运行库，与上面类似，作为分布式情况下的运行库，提供运行支撑。
framework：框架基础模块定义，主要是通用组件的结构格式定义；
graph：计算流图相关基础操作（类结构），包括 拆分、合并、执行 等操作，被外面的 executor 调用；
kernels：核心操作定义，像常用的运算 matmul，sigmoid 等操作；
lib：基础库用于内部调用，包括 hash、io、jpeg、math 等；
ops：对 kernel 下的op进行注册和对外声明；
protobuf：Google 的传输交换模块，用于传输时的数据序列化；
三. Graph 与 Session
关于 Graph 和 Session 前面已经有篇幅讲过，概念上可能大家并没有完全理解，本篇再讲一下。
Graph
首先搞清一个概念，Graph 是 Tensorflow 必须要存在的，是灵魂核心，你所看到的任何一个 图都是通过 Graph来组织的。
再来看一段你已经很熟悉的代码：
>>> import tensorflow as tf
>>> str = tf.constant("Hello World!")
>>> se = tf.Session()
>>> print se.run(str)
没看到 Graph 的创建对不对？ 实际上在你创建 Session 的时候，系统自动为你创建了一个 默认Graph，用于接下来所有 OP 的组织和存放。
某些情况下，你可以同时维护两个以上的 Graph，比如我们经常会遇到这样一句， tf.Graph.as_default()
curr_graph = tf.Graph()
with curr_graph.as_default():
c_val = tf.constant(1.0)
assert c_val.graph is curr_graph
在定义 OP 操作的时候可以选择Graph 作为 default，那么你所创建的 OP 就建立在对应 Graph 下面了。
Session
TensorFlow 的 Session 用法你可能比较熟了，来回顾一下：
# method 1
sess = tf.Session()
print sess.run(…)
sess.close()
# method 2
with tf.Session() as sess:
print sess.run(…)
# method 3 - 仅用于交互式环境
sess = tf.InteractiveSession()
a = tf.constant(1.0)
b = tf.constant(2.0)
c = a + b
# 我们直接使用'c.eval()' 而不是'sess.run'
print(c.eval())
sess.close()
对于 Graph 和 Session 的关系，需要记住，Graph 可以在对应多个 Session 中执行。
随时随地看视频
