> 文章列表 / Page 20

2016-05-24

【MySQL学生手册】mysqldump数据恢复

本文地址:https://www.askmaclean.com/archives/mysql-data-recovery.html   11.8 数据恢复   进行数据恢复操作的前提是你需要一份备份,作为恢复所需的一部分。它可以是你数据库某个时间点所做的snapshot快照(当进行备份时)。不过,对于一个活动的服务端,数据会在最近的备份之后就会发生改变。因此恢复操作所需的另一部分材料则是服务端之后所做的数据变更记录 —— 也就是,binary log。因此一个恢复操作涉及到使用备份来恢复数据库并且之后重新执行在binary log中所包含的备份之后的数据修改操作。   通常恢复操作有以下步骤: 首先对数据存放目录进行拷贝,这是为了防止在恢复时出错而以防万一。 使用备份文件恢复数据库。如果你已经制作有一个二进制备份,那么这个步骤涉及到关闭服务端并使用这些备份来替换丢失或损坏的文件。 重新执行在备份后记录在binary log中的数据修改操作。   11.8.1 导入mysqldump输出  …
#POST 13 MIN READ
2016-05-22

Hadoop hdfs nfs 网关

本文固定链接:https://www.askmaclean.com/archives/hdfs-nfs-gateway.html 原文地址:http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html   1概述   NFS 网关支持NFSv3和允许HDFS 作为客户端文件系统的一部分被挂载。当前NFS 网关支持和以下列默认启用: 1.用户可以通过操作系统兼容的本地NFSv3客户端来阅览HDFS文件系统 2.用户可以从HDFS文件系统下载文档到本地文件系统 3.用户可以通过挂载点直接流化数据。支持文件附加,但是不支持随机写(www.askmaclean.com)   NFS网关机器需要相同的HDFS客户端 例如Hadoop JAR 文件,HADOOP_CONF目录。NFS网关可以和任何主机在一起,例如:DataNode,NameNode.
#POST 8 MIN READ
2016-05-14

Hadoop hdfs 集中内存管理

本文固定链接:https://www.askmaclean.com/archives/hdfs-cache-management.html 原文地址:http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/CentralizedCacheManagement.html   1介绍   在HDFS中的集中内存管理是一种显式的内存机制,允许用户指定HDFS的内存路径。 NameNode将于DataNode通信来获得磁盘上所需的块,并引导它们在堆缓存中缓存这些块。 集中缓存管理有许多明显的优点(www.askmaclean.com) 1.显式的防止那些常用的块从内存中清除。这个对于当工作集的大小超过内存的时候非常重要,HDFS的工作量超过内存的情况很常见。 2.因为DataNode的内存被NameNode管理,应用程序在确定任务目标位置时可以查询到内存块位置。通过缓存块联合定位任务可以提高读性能。 3.当块已经被DataNode缓存时,客户端可以使用一个新的,更有效的零拷贝读API。一旦DataNode上的缓存数据校验完成,客户端在使用这个新API的时候基本上是零开销。
#POST 8 MIN READ
2016-05-08

Hadoop HDFS Short-Circuit Local Reads

本文固定链接:https://www.askmaclean.com/archives/hdfs-short-circuit-local-reads.html 原文地址:http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/ShortCircuitLocalReads.html   1.本地读 1.1背景 在HDFS,读一般是通过DataNode。因此,当客户端请求DataNode来读取一个文件时,DataNode从磁盘读取文件,然后通过TCP socket发送给客户端。所谓的本地读(短路读),是通过DataNode ,允许客户端直接去读取文件。短路读为很多应用提供了优秀的性能。  
#POST 2 MIN READ
2016-05-03

【MySQL学生手册】更多备份相关

本文地址:https://www.askmaclean.com/archives/mysql-more-bk-related.html     11.5 备份日志和状态文件   除了备份数据库之外,你还应该备份以下文件:   你的二进制日志文件。如果你不得不进行数据库恢复的话,binary log备份存储了你在备份之后的更新。 由服务端所使用的配置项文件(cnf或my.ini文件),这些文件包含了在数据库发生奔溃后恢复所需的的配置信息。 Replication从库端(Slave)所建立的一个info文件,这个文件包含有所需连接的主库信息。以及relay-log.info文件,这个文件记录了当前处理relay日志的进度情况。 Replication从库在处理LOAD DATA INFILE语句时会建立数据临时文件。这些文件被放置在由slave_load_tmpdir系统变量所设置的目录位置下,此变量可以在服务端启动时通过 –slave-load-tmpdir项进行设置。当slave_load_tmpdir未被设置,那么文件就会被存放在操作系统变量tmpdir都指定的位置。其处理的文件会以SQL_LOAD- 打头。   为了备份以上这些文件,你可以使用一般的文件系统操作。静态文件如配置文件(option file)不需要特别的注意即可进行备份。动态文件如服务端正在运行且改变的日志文件,则需要停止服务端,然后进行备份。
#POST 3 MIN READ
2016-05-03

Hadoop C API libhdfs

本文固定链接:https://www.askmaclean.com/archives/hadoop-c-api-libhdfs.html 原文地址:http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/LibHdfs.html   1介绍 Libhdfs 是一个在HDFS中JNI 基础的C API 。它提供了一个HDFS APIs的子集C APIs来操作HDFS文件和文件系统。Libhdfs Libhdfs是Hadoop分布式的一部分,并且在$HADOOP_HDFS_HOME/lib/native/libhdfs.so中预编译。Libhdfs 兼容Winddows并且可以通过hadoop-hdfs-project/hadoop-hdf根目录下的mvn来编译。(www.askmaclean.com)     2 APIs Libhdfs apis 时…
#POST 2 MIN READ
2016-05-02

【MySQL学生手册】建立文本备份

本文地址:https://www.askmaclean.com/archives/mysql-generate-text-backup.html   11.4 建立文本备份   11.4.1 通过SQL建立文件备份   SELECT命令可以和INTO OUTFILE语法一起使用来将返回结果直接写入文件中。在使用中,需要将INTO OUTFILE语法放在FROM语法之前。例如,将Country表中数据写入Country.txt文件中,执行以下语句:   mysql> select * from into outfile 'Country.txt' from…
#POST 9 MIN READ
2016-05-01

【MySQL学生手册】建立binary备份

本文地址:https://www.askmaclean.com/archives/mysql-generate-binary-bk.html   11.3.1 建立MyISAM的Binary备份 为了对MyISAM表建立一份binary备份,可以拷贝对应表的.frm,.MYD和.MYI文件。当你这么做时,必须确保这些表在被拷贝时没有在被其它程序(包括服务端)所使用。如果你在拷贝表前就关停了服务端,那就没什么问题了。如果拷贝的时候服务端还在运行,那就需要使用适当的锁来避免服务端对这些表的访问。例如,拷贝world数据库中的Country表前,进行锁表并将有待永久保存的变更刷出内存操作: mysql> use world; mysql> lock tables Country read; mysql> flush tables Country; 然后(在表被锁住的情况下)使用操作系统文件拷贝命令将表文件拷贝出来。   以MyISAM数据库表world.Country拷贝举例(这里假设Country表为MyISAM引擎表):…
#POST 7 MIN READ
2016-04-29

APOUC 2016 上海 – 亚太用户组高峰会议小记

刚回到家,打开邮箱,就看见APOUC发来的会后反馈邮件,除了头疼以外,还不免有些脸红惭愧。(真不知道怎么评分啊~~~) 老汪本人由于多方面原因无奈未能准时到场,感冒导致状态不佳是其一,这更是时常导致会议时神游物外。除了代表SHOUG(上海Oracle用户组)进行了4 min pitch的发言,之后更多地是积极参与到和不同用户组代表以及Oracle技术大咖们的吹牛打P中去了。 是否让SHOUG的成员们有些小失望呢?虽说Oracle用户组高峰会上的主题内容仅能说出个大概,不过如果大家真的感兴趣的话,那么可以也去翻看下其它用户组代表们的官文,发现会场上直接做现场微报道的还真不少呢。
#POST 4 MIN READ