`
u010815305
  • 浏览: 28291 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

我迄今为止写的最长的SQL

阅读更多

 

 今天看我14年实习的时候,当时我的导师在博客中写到了一段差不多50多行的sql,说是他写的最长的sql,
想想工作的这一年,其实我也写了不少sql,因为自身是做数据开发方面的工作,写sql是免不了的,哈哈~
  今天刚好是五一假后上班的第一天,也不想干什么事,就写写博客吧,好久没有记录啦。好,言归正传,
就说sql吧, 去年我们数据组要把之前的从mysql中的提取基础数据的工作给做到hive里面去,因为我是做
基础数据这块的,所以就开始做这个。从hive中抽取30多张最基础的表,然后通过各种join提取一些基础
字段,这个sql总共380多行。。。当然我还是中间用了union all,要是算上中间的shell脚本的话,差不多就是1000多行的一个小脚本啦。
    那这么长的sql好处有那些呢:减少了中间表的输出;
    不好的地方实在是太多了:一个就是不好测试,需要你对业务很熟

 悉;第二个就是效率不见得高;
如果sql基础不是很好的话,就不要尝试去做了,很费劲。


  • 大小: 12.8 KB
分享到:
评论
1 楼 u010815305 2016-05-03  
多说一句,这个差不多1000多万行的数据,在hive上处理时间差不多40多分钟

相关推荐

    SQL语言介绍 第一部分

    它功能强,效率高,简单易学易维护(迄今为止,我还没见过比它还好 学的语言)。然而SQL语言由于以上优点,同时也出现了这样一个问题: 它是非过程性语言,即大多数语句都是独立执行的,与上下文无关,而 绝大...

    SQL示例大全.pdf

    以下示例查找按产品 ID 和特价产品 ID 分组的平均价格和迄今为止的年销售总额。 Use AdventureWorks SELECT ProductID, SpecialOfferID, AVG(UnitPrice) AS 'Average Price', SUM(LineTotal) AS SubTotal FROM ...

    SQL Server 2008数据库设计与实现

    这个PDF文件是我花钱买来的,现在为了挣积分,拿出来与大家分享!! 本书深入浅出地介绍了目前世界上最受欢迎的数据库管理系统之一——SQL Server。全书共分三个部分:第一部分阐释了数据库的基本概念,讲解了...

    迄今为止最全面的分布式主键ID生成器,多语言新雪花算法(SnowFlake IdGenerator).zip

    迄今为止最全面的分布式主键ID生成器。 优化的雪花算法(SnowFlake)——雪花漂移算法,在缩短ID长度的同时,具备极高瞬时并发处理能力(50W/0.1s)。 原生支持 C#/Java/Go/Rust/C/SQL 等多语言,且提供 PHP 扩展及 ...

    迄今为止最全面的分布式主键ID生成器优化的雪花算法(SnowFlake)雪花漂移算法在缩短ID长度的同时具备高瞬时并发处理能力

    迄今为止最全面的分布式主键ID生成器。 优化的雪花算法(SnowFlake)——雪花漂移算法,在缩短ID长度的同时,具备极高瞬时并发处理能力(50W/0.1s)。 原生支持 C#/Java/Go/Rust/C/SQL 等多语言,且提供 PHP 扩展及 ...

    SAP查询分析器源码-Zsqlexplorer

    迄今为止最强大的ABAP查询分析器源码,是分析ABAP程序SQL执行情况不二的选择。

    戴尔推出全套数据库解决方案

    其中包括戴尔迄今为止性能最强的四路服务器PowerEdge:trade_mark: 6800及6850,支持英特尔:registered:至强:registered:双核技术及最新版Microsoft:registered: SQL Server 数据库软件。该套件为客户迁移到Microsoft...

    learn-postgresql::elephant: 学习如何使用 PostgreSQL 和结构化查询语言 (SQL) 来存储和查询您的关系数据。 :magnifying_glass_tilted_left:

    我们提供这些统计数据是为了说明关系数据库迄今为止仍然是最广泛使用的,因此学习 SQL 技能对于个人和您的团队或组织来说都是一项非常明智的投资。PostgreSQL易于学习并且可以在任何地方运行! PostgreSQL

    Maven_Fuzzy_Factory_Project_2:使用SQL进行数据分析

    使用SQL来提取和分析流量以及网站性能数据来制作成长故事,然后首席执行官可以将其出售给投资者。 投入市场营销活动和迄今为止一直为成功做出贡献的网站改进,并利用此机会充分发挥分析技能,以便使投资者信服。 ...

    Foobricator:整理您迄今为止最出色的数据

    几乎所有内容-SQL语句,XML,CSV文件,您都可以命名。 Foobricate还设计为制作与同一数据集匹配的多个文件-因此可能是帐户余额列表和自动相互同意的客户资料列表。 测试数据不能只是随机的,它也需要结构化 它是...

    我的校园我的家java项目源码-CleanNeedlesForChildren:使用Emacs、自动完成、语义解析、代码片段和GoogleCP

    迄今为止最好的事情是恳请学生们像远离海洛因一样离开窗户。 然而,大多数计算机科学专业的学生(女孩和男孩)在玩了十年的游戏后来到我们这里。 如果我切换到 Ubuntu,我可以玩 Halo 吗? 是否有适用于 Debian 的 ...

    idgenerator分布式主键ID生成器

    迄今为止最全面的分布式主键ID生成器。优化的雪花算法(SnowFlake)——雪花漂移算法,在缩短ID长度的同时,具备极高瞬时并发处理能力(50W/0.1s)。 原生支持 C#/Java/Go/Rust/C/SQL 等多语言,且提供 PHP 扩展及 ...

    notes:用于记笔记的自定义 PHP 项目。 不要用这个! 那天很棒,我想

    也许迄今为止,我对 NotesApp 项目的使用和完善程度比任何其他应用程序都要多。 我每天都用它来管理我的学业以及客户和个人项目。 它没有 Evernote 或 Dropbox 的强大同步功能,因此我建议每周将您的数据库表备份到...

    mysql 帮助文档 (chm格式) (3卷)

    官网下载的在线帮助,自己制作的chm格式文档,保证是迄今为止最全的帮助文档! 由于文件较大,分了四份上传,分别下载即可! 为了使自己的劳动有所收获,每个收取一分,谢谢大家!

    SYNLEAD Sales XP(客户关系管理软件)

    供,是迄今为止功能最为强劲的国产免费客户关系管理软件。该软件为简体中文/ 英文界面,运行于简体中文/英文Windows 98/NT/2000/XP环境,数据库支撑采用微 软SQL桌面版或MSDE。XPSetup.exe为自解压安装程序,无需...

    网星公司网站系统 .NET版 V1.0

    网星公司网站系统采用最先进的ASP.NET语言设计,数据库为MS SQL,使用三层结构设计模式,页面高速缓存,是迄今为止国内公司网站管理系统。 网星公司网站系统 .NET版有完善的会员系统、产品展示系统、新闻系统,甚至...

    elasticSearch5.6.10

    Elasticsearch是一个基于Apache Lucene(TM)的开源实时分布式搜索和分析引擎,它用于全文搜索、结构化搜索、分析以及将这三者混合使用,无论在开源还是专有领域,Lucene可以被认为是迄今为止最先进、性能最好的、功能...

    从SQL查询生成问题改善了神经语义解析

    我们对WikiSQL进行研究,这是迄今为止最大的带注释的语义分析数据集。 首先,我们证明问题生成是一种有效的方法,使我们能够使用30%的监督训练数据来学习基于最新神经网络的语义解析器。 其次,我们表明将问题生成...

    companystie

    MS SQL,是迄今为止国内公司网站管理系统。 网星公司网站系统 .NET版有完善的会员系统、产品展示系统、新闻系统,甚至还包括一个完整的论坛系统, 并有相应的后台管理系统,您只要在后台更新产品和新闻,在首页就会...

Global site tag (gtag.js) - Google Analytics