登陆注册
19712100000099

第99章 大数据分析,数据驱动发现

大数据分析,数据驱动发现是计算机技术,统计学,数学的综合应用。

科学范式的改变:1实验或者测量2分析理论3数值模拟4数据驱动。生物就停留在1和2之间。天文学当初产生的数据使得开普勒三大定律和万有引力定律成为可能,理论上,只要单个数据点的成本足够低,我们可以产生大量的数据用于模式识别。复杂的现象需要复杂的数据来理解,提取出模式之后如同公理化体系的构建一样来逼近现实情况。我的野心并不大,能够使用生物信息来解释生命就可以了。具体的应用可以有疾病生物标记物的发现,疾病相关基因的发现等等。

发现目前工作的局限性Challenge,细化到可以解决的层次—提出可能的解决方案solutions,最后集成起来。这是计算机科学的分而治之Divide and conquer。如此反复,如同迭代,数学的演绎,不断开阔人类的认知边界。机器学习算法也是需要各种反馈来进一步修改参数直至收敛到最优解(如梯度下降法)。

科学发现工作流程:收集处理管理分析1收集数据即实验或者观察2数据整理,以一定的定义好的形式来组织如数据库3数据挖掘,各种相关性的构建,个人认为可以通过贝叶斯推断一样的机制来在一些相关对象的组合中构建起高概率的相关性,可以理解为高维关系的构建是底层关系的累加(微积分基本定理),以分析数学的思路是在这些复杂对象中总存在这种确定性的关系(不动点,如中值定理)4数据理解,整合到具体的背景5新知识

数据挖掘的方法包括重要的机器学习算法等等,有非监督学习算法如聚类,降维等等,有监督学习如分类回归等等,还有其他的算法如神经网络算法,以及进一步的深度学习。

讲座1:模式识别

万物皆有理,这是我们的信仰,可以理解为一种对关系存在的一种假设。然后就是具体地寻找这种关系,即所谓的模式识别。具体的方法有许多,如分类,回归,更具体的实现有最近邻居法,KNN 等等。

模式识别其实就是对特定函数的构造,如回归方程的数学解析式y=ax+b,,在假设这些函数的存在之后的构造,就是对参数的确定,使得与真实情况的对比能够维持比较低的误差(误差低于一定程度视为等价),还有各种指标如正确率,召回率等等。

核方法kernel,本质上也是构造一定的函数来满足一定的需求。

我们可以以足够高维的空间,即每个数据点都具有多个属性,来对现实情况进行建模。理论上可以是无限维的,从而对一切都建模。但是这是没有意义的,因为我们的计算资源不足以支撑,而且我们认为有意义的属性的数量和重要性是呈现幂律发布的,即只有少部分的指标具有更大的重要性。因此降维处理势在必行。这与线性代数的线性无关基地的分解相似,都是以最少的损失来存储数据。比如说PCA主成分分析。也可以理解为特征值/向量的提取。

算法的计算需要对特定指标的选择和计算,必须是可量化的,这样才可以更新各种参数,从而收敛停机。如人脸识别,就是通过相关指标的计算来推断哪些区域更可能是目标区域。

讲座2:机器学习介绍

应用的广泛性。本质上是经过训练找到一定的函数或者分类器,能够应用于泛化的数据。

自动编程机—人工智能,从一开始的硬编程,即编码所有规则,在发现其不可能的基础上探求软编程,通过数据学习,对于特定的任务task T ,有一定的测量指标performance measure P ,其能够根据经验experience P 来不断改善。如垃圾邮件识别,医疗诊断,广告推荐等等。

大数据:volume 大量数据,velocity产生速度快,variety多样性,veracity, value价值,从数据提取知识。

对于不同问题,应该选择不同的算法,不存在万能算法包打天下,必须综合考虑得和失。虽然深度学习有这个潜力。我们的目标在于发现生物的不显著效应,如转录的多个影响因素组蛋白乙酰化,转录因子的相互作用等等,并挖掘可能的工作机制如相关蛋白质的作用。

讲座3:数据—数据模型—数据库

数据—信息—知识—原理,金字塔的结构,数量不断减少,但重要性不断提高。

讲座4:神经网络在各个领域发挥重要作用,如语音图像识别,推荐系统,社交网络等等,我们尤其注意其中生物的应用,比如说基因表达芯片的数据分析等等。数据—模型—计算能力的结合,使得我们能够挖掘出统计层次具有意义的模式,能够与一定的生物机制构建相关性。可以有探针式的输入,在库找到相关性的团体。

神经网络的训练需要大规模的矩阵运算,复杂度很高,需要采取一定的优化措施来加速运算:低秩近似Low rank Approximation,网络pruning,scalar or vector quantization .

矩阵分解可以减少计算量。稀疏矩阵,降低储存量。不动点节约存储量,运算时间等等,这是一种存在性的假设和改造。相当于将进行先验的概率进行运算,能够更快地收敛到目的最优解。

深度学习:特征提取—Metric学习—分类

同类推荐
  • 撼天帝主

    撼天帝主

    他不是一个好人,但也不是一个坏人。转世重生,修魔之道,如何逆世成尊,且看陈宸安的帝主崛起路!
  • 机械战狼

    机械战狼

    变为机械狼的封不鸣最大的愿望就是变成人。有血有肉的人,让这全身的钢铁都见鬼去吧!就是泡个妹子,想要进行深度交流的时候。封不鸣泪流满面。这一身的钢铁实在是没有感觉啊!
  • 废少陈浪

    废少陈浪

    魔神转世成为废少!失去以前光环佘经历些什么呢。。。。。
  • 梦境成神

    梦境成神

    不知名的水晶球,千万强者的记忆化成的世界,高中生刘阳重生异界,借助无数强者的本领,看刘阳异界成神
  • 英雄联盟之异世争霸

    英雄联盟之异世争霸

    前世只是一个孤儿,经过一番奇遇后便改变了他的一生看猪脚如何带领他和他的势力,走向世界的巅峰。英雄,为你而战……
热门推荐
  • 清微斋法

    清微斋法

    本书为公版书,为不受著作权法限制的作家、艺术家及其它人士发布的作品,供广大读者阅读交流。
  • 三界从容

    三界从容

    人间,本无妖魔鬼怪,诸天神佛。因一人,打破壁垒,妖魔鬼怪祸乱人间,诸天神佛趁势镇压,留下一个个传说。天道轮转,神器更易,诸天神佛终究不能久留人间,妖魔鬼怪寄生于人,藏于万物。诸天神佛留下神力,有人得之,可与诸天神佛沟通,可镇压妖魔,游走壁垒之间,或堕为妖魔,或得道成仙。然神佛妖魔界限为何,以何区分沈从容偶得神力,游走诸界,与神佛对垒,与妖魔坐谈,诸般万物,盏茶而已。
  • 奇险天下:华山(文化之美)

    奇险天下:华山(文化之美)

    华山名胜数不胜数,自山麓至绝顶,庙宇古迹,天然奇景,处处可见。华山是中华民族的圣山,不仅山峰雄伟惊奇壮观,而且还是道教名山,从古至今,有多位学者在华山开馆受徒,同时也吸引了许多文人墨客游览,留下了许多赞咏的诗篇。自隋唐以来,以李白、杜甫为代表的文人墨客咏华山的诗歌、碑记和游记不下千余篇,摩岩石刻多达千余处。
  • 福妻驾到

    福妻驾到

    现代饭店彪悍老板娘魂穿古代。不分是非的极品婆婆?三年未归生死不明的丈夫?心狠手辣的阴毒亲戚?贪婪而好色的地主老财?吃上顿没下顿的贫困宭境?不怕不怕,神仙相助,一技在手,天下我有!且看现代张悦娘,如何身带福气玩转古代,开面馆、收小弟、左纳财富,右傍美男,共绘幸福生活大好蓝图!!!!快本新书《天媒地聘》已经上架开始销售,只要3.99元即可将整本书抱回家,你还等什么哪,赶紧点击下面的直通车,享受乐乐精心为您准备的美食盛宴吧!)
  • TFBOYS倒影少年

    TFBOYS倒影少年

    女主依旧神经大条,但是感情也很细腻,单纯的三只,遇上神经女,又会发生什么
  • 我是兵王大护法

    我是兵王大护法

    冥冥之中,超能特战兵王受命开展护法行动。谁是奸邪?谁是恶霸?谁是贪官?谁是小人?通通给我拿下!涤荡乾坤,洗尽污垢,还我都市无限光明!但是,我还没结婚,美女还是要选一个......
  • 八十天环游地球

    八十天环游地球

    《八十天环游地球》讲述了一场因打赌而起的奇幻之旅:在没有飞机、只能搭火车与邮轮的情况下,英国绅士福克和他的仆人“万事达”,经历了重重艰难险阻,最终完成了八十天环游地球这一惊人壮举。惊险刺激的旅程、奇异的风土人情、主人公诚实守信的可贵品质和沉着冷静的过人智慧,让读者大开眼界。作品发表后,引起了轰动,多次再版。1874年由作者本人改编成剧本后,同样受到广泛欢迎。
  • 婚情告急:魔王他老婆又跑了

    婚情告急:魔王他老婆又跑了

    她,因为体力持久所以被选为帝国首席总裁的妻子。“不行,我受不了,我要离婚。”“乖,宝贝儿,你别忘了,你可是长跑第一名。”什么,长跑第一名怎么了?本文又名:《婚情告急:魔王他老婆又跑了》,1V1,温馨甜宠日常大法。
  • 无限世界的英雄旅程

    无限世界的英雄旅程

    夜,唐辰意外卷入无限世界,成为了一名预备的轮回者,即将与来自其他外星文明的人族展开角逐!然而,初来乍到,还未来得及摆正心态的他,却在仅完成首个世界任务后,就遭遇了巨大的问题!他发现,自己面前陆续登场的新人们,没有谁是普通存在,接二连三曝光的身份,来头都不小!美国队长、钢铁侠、黑寡妇、鹰眼、绿巨人、蜘蛛侠、雷神、绯红女巫、快银、幻视、蚁人…“其实,我就是个跑龙套的吧!”看着这些被主角光环附体的家伙,唐辰真心是压力山大!PS·1:简单地说,这就是某宅男带着许多个超级英雄组成团队,展开位面战争的故事!PS·2:所有角色中,仅男主通晓所有‘副本’的剧情,这也算是他独有的金手指了!
  • 保家仙灵异录

    保家仙灵异录

    亲身经历改编东北流传已久的五仙家,奇异的东北灵堂.保家仙保一方平安,治病救人。一个捡来的香炉,三代人的命运,永世的纠缠。看主角王小江如何济世救人,踏妖邪,破命运