机器学习的目标是做预测，但有时候单个预测模型并不一定有很好性能。集成学习的思想是，把多个弱机器学习模型集成在一起，不同的学习方法之间可能相互补充，进而降低预测的错误率，提高最终的预测性能。集成学习在各个规模的数据集上都有很好的策略结果。

常见的集成方法有Bagging，Boosting，Stacking，Voting和Blending。

又可以分为两大类：（1）序列集成方法：其中参与训练的基础学习器按照顺序生成（Boost）。序列方法的原理是利用基础学习器之间的依赖关系。通过对之前训练中错误标记的样本赋值较高的权重，可以提高整体的预测效果。（2）并行集成方法，其中参与训练的基础学习器并行生成（如经典的Random Forest）。并行方法的原理是利用基础学习器之间的独立性，通过平均可以显著降低错误。

CCTB 2022：https://biomarker2022.sciconf.cn

参加肿瘤标志物的大会，好几个会议同步进行，来演讲的人都是业界的专家，水平很高，虽然大部分报告都是科研形式的汇报，和产业汇报不一样，但同样给人启发。

保存几张1D卷积的图和文章，方便以后查找，摘自互联网。说不准以后搞深度学呢🫠🙃卷的结果就是以后不上人工智能都不要意思说自己是搞生信的。

主要是看到一篇文章，用了卷积神经网络，我一直就好奇组学数据怎么做卷积，所以就看了下文章，发现用的是Conv1D。（不知道理解的对不对）对于1D卷积Conv1D而言，如果卷积核kernel size是2的话，最终会生成一个 “行数-kernel size+1“的向量，如果数据分批给的话，就有batch，比如如果样本是21000，batch size是128的话，每个batch有165个样本，所以Nature Machine Intelligence的附图 Fig. 10这篇文章还进行了BatchNormalization。

Samples = 21000, batch_size=128 -> training_sample for each epoch = 21000/128 = 164.06 ~= 165

https://stackoverflow.com/questions/72529761/batch-size-in-input-shape-statement-for-keras-conv1d-layers

filters可以指定多次卷积（相同kernel size），这样可以生成二维的数据。

Deep learning decodes the principles of differential gene expression

遇到的情形

分析的代码已经调试好，但分析的时间较长；

后端启动jupyter notebook后，奈何网络不稳定，notebook经常掉线，跑到一半的程序就断掉了；

服务器其他人的jupyter notebook的端口如果和我的一样，别人启动jupyter notebook后，我正在用的端口就会往后变。

于是我就想，能否在终端直接运行.ipynb文件，这样我就可以加nohup命令了，或者把ipynb的代码转成python，我nohup运行python也行。

基于以上情况，我google到了nbconvert。

nbconvert

nbconvert的github地址：https://github.com/jupyter/nbconvert

jupyter nbconvert通过模版引擎jinja将ipynb文件转成其他格式的文件，包括

• HTML
• LaTeX
• PDF
• Reveal JS
• Markdown (md)
• ReStructured Text (rst)
• executable script

此外nbconvert还有另外一个功能就是通过–execute选项在终端执行ipynb文件

安装nbconvert

1
2

pip install nbconvert
# 或者conda install nbconvert

ipynb格式转换

1
2
3
4
5

# 转成python，转成后，后有前缀和ipynb一样的py文件，运行这个就行。
jupyter nbconvert --to python --execute mynotebook.ipynb
# --to后面跟格式，比如html
jupyter nbconvert --to html mynotebook.ipynb
# 支持的格式包括['asciidoc', 'custom', 'html', 'html_ch', 'html_embed', 'html_toc', 'html_with_lenvs', 'html_with_toclenvs', 'latex', 'latex_with_lenvs', 'markdown', 'notebook', 'pdf', 'python', 'rst', 'script', 'selectLanguage', 'slides', 'slides_with_lenvs']

上面是格式转换，在转换的过程中，比如转pdf、latex的时候，可能还需要额外的包，比如pandoc等，还需要额外安装。可以参考https://nbconvert.readthedocs.io/en/latest/index.html

jupyter nbconvert还有个功能就是执行ipynb格式的文件，如下

1
2
3
4
5

jupyter nbconvert --execute mynotebook.ipynb
# 这个时候就和linux终端下的正常命令类似了，比如加上重定向
jupyter nbconvert --execute mynotebook.ipynb >> mylog.out.log 2>&1
# 还可以和格式转换相结合
jupyter nbconvert --to python --execute mynotebook.ipynb

假设我想把通过运行jupyter nbconvert执行ipynb文件的过程更简单点，可以通过在.profile里面设置命令的别名

1
2
3
4

# .profile或者.bashrc里面配置
alias nbx="jupyter nbconvert --execute"
# 终端运行ipynb文件
nbx mynotebook.ipynb

当进行Isoseq的样本测了多次，或者多个run时，可能会碰到合并subreads.bam文件。我倾向先合并再往后分析，兼容以前的流程，避免分别分析再合并会遇到其他错误。Pacbio Isoseq的下机数据格式已经从h5变成了subreads.bam，合并其实很简单，和samtools类似，但得用pacbio的工具才行，当然还要建立index生成pbi文件，也是用pacbio的工具。

1
2
3
4

# merge
pbmerge -o merged.bam data_1.bam data_2.bam data_3.bam
# index
pbindex merged.bam