Skip to content

Latest commit

 

History

History
193 lines (135 loc) · 6.24 KB

leveldb源码分析19.md

File metadata and controls

193 lines (135 loc) · 6.24 KB
Raw

leveldb源码分析19

本系列《leveldb源码分析》共有22篇文章，这是第十九篇

11.VersionSet分析之2

11.4 LogAndApply()

函数声明：

Status LogAndApply(VersionEdit*edit, port::Mutex* mu)

前面接口小节中讲过其功能：在currentversion上应用指定的VersionEdit，生成新的MANIFEST信息，保存到磁盘上，并用作current version，故为Log And Apply。 参数edit也会被函数修改。

11.4.1 函数流程

下面就来具体分析函数代码。 S1 为edit设置log number等4个计数器。

if (edit->has_log_number_) {
    assert(edit->log_number_ >= log_number_);
    assert(edit->log_number_ < next_file_number_);
}
else edit->SetLogNumber(log_number_);
if (!edit->has_prev_log_number_) edit->SetPrevLogNumber(prev_log_number_);
edit->SetNextFile(next_file_number_);
edit->SetLastSequence(last_sequence_);

要保证edit自己的log number是比较大的那个，否则就是致命错误。保证edit的log number小于next file number，否则就是致命错误-见9.1小节。

S2 创建一个新的Version v，并把新的edit变动保存到v中。

Version* v = new Version(this);
{
    Builder builder(this, current_);
    builder.Apply(edit);
    builder.SaveTo(v);
}
Finalize(v); //如前分析，只是为v计算执行compaction的最佳level

S3 如果MANIFEST文件指针不存在，就创建并初始化一个新的MANIFEST文件。这只会发生在第一次打开数据库时。这个MANIFEST文件保存了current version的快照。

std::string new_manifest_file;
Status s;
if (descriptor_log_ == NULL) {
    // 这里不需要unlock *mu因为我们只会在第一次调用LogAndApply时  
    // 才走到这里(打开数据库时).  
    assert(descriptor_file_ == NULL); // 文件指针和log::Writer都应该是NULL  
    new_manifest_file = DescriptorFileName(dbname_, manifest_file_number_);
    edit->SetNextFile(next_file_number_);
    s = env_->NewWritableFile(new_manifest_file, &descriptor_file_);
    if (s.ok()) {
        descriptor_log_ = new log::Writer(descriptor_file_);
        s = WriteSnapshot(descriptor_log_); // 写入快照  
    }
}

S4 向MANIFEST写入一条新的log，记录current version的信息。在文件写操作时unlock锁，写入完成后，再重新lock，以防止浪费在长时间的IO操作上。

[cpp] view plain copy
mu->Unlock();
if (s.ok()) {
    std::string record;
    edit->EncodeTo(&record);// 序列化current version信息  
    s = descriptor_log_->AddRecord(record); // append到MANIFEST log中  
    if (s.ok()) s = descriptor_file_->Sync();
    if (!s.ok()) {
        Log(options_->info_log, "MANIFEST write: %s\n", s.ToString().c_str());
        if (ManifestContains(record)) { // 返回出错，其实确实写成功了  
            Log(options_->info_log, "MANIFEST contains log record despiteerror ");
            s = Status::OK();
        }
    }
}
//如果刚才创建了一个MANIFEST文件，通过写一个指向它的CURRENT文件  
//安装它；不需要再次检查MANIFEST是否出错，因为如果出错后面会删除它  
if (s.ok() && !new_manifest_file.empty()) {
    s = SetCurrentFile(env_, dbname_, manifest_file_number_);
}
mu->Lock();

S5 安装这个新的version

if (s.ok()) { // 安装这个version  
    AppendVersion(v);
    log_number_ = edit->log_number_;
    prev_log_number_ = edit->prev_log_number_;
}
else { // 失败了，删除  
    delete v;
    if (!new_manifest_file.empty()) {
        delete descriptor_log_;
        delete descriptor_file_;
        descriptor_log_ = descriptor_file_ = NULL;
        env_->DeleteFile(new_manifest_file);
    }
}

流程的S4中，函数会检查MANIFEST文件是否已经有了这条record，那么什么时候会有呢？

主函数使用到了几个新的辅助函数WriteSnapshot，ManifestContains和SetCurrentFile，下面就来分析。

11.4.2 WriteSnapshot()

函数声明：

Status WriteSnapshot(log::Writer*log)

把currentversion保存到*log中，信息包括comparator名字、compaction点和各级sstable文件，函数逻辑很直观。

  • S1 首先声明一个新的VersionEdit edit；
  • S2 设置comparator：edit.SetComparatorName(icmp_.user_comparator()->Name());
  • S3 遍历所有level，根据compact_pointer_[level]，设置compaction点： edit.SetCompactPointer(level, key);
  • S4 遍历所有level，根据current_->files_，设置sstable文件集合：edit.AddFile(level, xxx)
  • S5 根据序列化并append到log（MANIFEST文件）中；
std::string record;
edit.EncodeTo(&record);
returnlog->AddRecord(record);

以上就是WriteSnapshot的代码逻辑。

11.4.3 ManifestContains()

函数声明：

bool ManifestContains(conststd::string& record)

如果当前MANIFEST包含指定的record就返回true，来看看函数逻辑。

  • S1 根据当前的manifest_file_number_文件编号打开文件，创建SequentialFile对象

  • S2 根据创建的SequentialFile对象创建log::Reader，以读取文件

  • S3 调用log::Reader的ReadRecord依次读取record，如果和指定的record相同，就返回true，没有相同的record就返回false

SetCurrentFile很简单，就是根据指定manifest文件编号，构造出MANIFEST文件名，并写入到CURRENT即可。

11.5 ApproximateOffsetOf()

函数声明：

uint64_tApproximateOffsetOf(Version* v, const InternalKey& ikey)

在指定的version中查找指定key的大概位置。 假设version中有n个sstable文件，并且落在了地i个sstable的key空间内，那么返回的位置**= sstable1文件大小+sstable2文件大小 + … + sstable (i-1)文件大小 + key在sstable i中的大概偏移**。 可分为两段逻辑。

  • 首先直接和sstable的max key作比较，如果key > max key，直接跳过该文件，还记得sstable文件是有序排列的。 对于level >0的文件集合而言，如果如果key < sstable文件的min key，则直接跳出循环，因为后续的sstable的min key肯定大于key。

  • key在sstable i中的大概偏移使用的是Table:: ApproximateOffsetOf(target)接口，前面分析过，它返回的是Table中>= target的key的位置。

VersionSet的相关函数暂时分析到这里，compaction部分后需单独分析。