Rust 编程竞赛中最快的惯用 I/O 例程？

Question

我的问题已经部分回答了，所以我根据我从 cmets 和其他实验中学到的东西对其进行了修改。

总之，我想要一个用于编程竞赛的快速 I/O 例程，其中问题通过单个文件解决，无需外部 crate。它应该从BufRead（标准输入或文件）中读取一系列以空格分隔的标记。标记可能是整数、浮点数或 ASCII 字，由空格和换行符分隔，所以我似乎应该一般支持 FromStr 类型。一小部分问题是交互式的，这意味着并非所有的输入最初都是可用的，但它总是以完整的行出现。

关于上下文，这里是the discussion that led me to post here。有人编写了非常快速的自定义代码来直接从BufRead::fill_buf() 的&[u8] 输出解析整数，但它在FromStr 中并不通用。

这是我的best solution so far（强调Scanner 结构）：

use std::io::{self, prelude::*};

fn solve<B: BufRead, W: Write>(mut scan: Scanner<B>, mut w: W) {
    let n = scan.token();
    let mut a = Vec::with_capacity(n);
    let mut b = Vec::with_capacity(n);
    for _ in 0..n {
        a.push(scan.token::<i64>());
        b.push(scan.token::<i64>());
    }
    let mut order: Vec<_> = (0..n).collect();
    order.sort_by_key(|&i| b[i] - a[i]);
    let ans: i64 = order
        .into_iter()
        .enumerate()
        .map(|(i, x)| a[x] * i as i64 + b[x] * (n - 1 - i) as i64)
        .sum();
    writeln!(w, "{}", ans);
}

fn main() {
    let stdin = io::stdin();
    let stdout = io::stdout();
    let reader = Scanner::new(stdin.lock());
    let writer = io::BufWriter::new(stdout.lock());
    solve(reader, writer);
}

pub struct Scanner<B> {
    reader: B,
    buf_str: String,
    buf_iter: std::str::SplitWhitespace<'static>,
}
impl<B: BufRead> Scanner<B> {
    pub fn new(reader: B) -> Self {
        Self {
            reader,
            buf_str: String::new(),
            buf_iter: "".split_whitespace(),
        }
    }
    pub fn token<T: std::str::FromStr>(&mut self) -> T {
        loop {
            if let Some(token) = self.buf_iter.next() {
                return token.parse().ok().expect("Failed parse");
            }
            self.buf_str.clear();
            self.reader
                .read_line(&mut self.buf_str)
                .expect("Failed read");
            self.buf_iter = unsafe { std::mem::transmute(self.buf_str.split_whitespace()) };
        }
    }
}

通过避免不必要的分配，这个Scanner 非常快。如果我们不关心不安全性，可以通过将read_line() 转换为String，而不是将read_until(b'\n') 转换为Vec<u8>，然后是str::from_utf8_unchecked()，使其更快。

不过，我也想知道最快的安全解决方案是什么。有没有聪明的方法告诉 Rust 我的Scanner 实现实际上是安全的，消除了mem::transmute？直观地说，似乎我们应该将SplitWhitespace 对象视为拥有缓冲区，直到它在返回None 后被有效删除。

在其他条件相同的情况下，我想要一个“不错”的惯用标准库解决方案，因为我正在尝试向其他参加编程竞赛的人展示 Rust。

Answer 1

很高兴你问到，因为我在我的 LibCodeJam rust 实现中解决了这个确切的问题。具体来说，从BufRead 读取原始令牌由TokensReader type 以及一些相关的小助手处理。

这是相关的摘录。这里的基本思想是扫描BufRead::fill_buf 缓冲区中的空白，并将非空白字符复制到本地缓冲区中，以便在令牌调用之间重用。一旦找到空白字符或流结束，本地缓冲区将被解释为 UTF-8 并返回为 &str。

#[derive(Debug)]
pub enum LoadError {
    Io(io::Error),
    Utf8Error(Utf8Error),
    OutOfTokens,
}

/// TokenBuffer is a resuable buffer into which tokens are
/// read into, one-by-one. It is cleared but not deallocated
/// between each token.
#[derive(Debug)]
struct TokenBuffer(Vec<u8>);

impl TokenBuffer {
    /// Clear the buffer and start reading a new token
    fn lock(&mut self) -> TokenBufferLock {
        self.0.clear();
        TokenBufferLock(&mut self.0)
    }
}

/// TokenBufferLock is a helper type that helps manage the lifecycle
/// of reading a new token, then interpreting it as UTF-8.
#[derive(Debug, Default)]
struct TokenBufferLock<'a>(&'a mut Vec<u8>);

impl<'a> TokenBufferLock<'a> {
    /// Add some bytes to a token
    fn extend(&mut self, chunk: &[u8]) {
        self.0.extend(chunk)
    }

    /// Complete the token and attempt to interpret it as UTF-8
    fn complete(self) -> Result<&'a str, LoadError> {
        from_utf8(self.0).map_err(LoadError::Utf8Error)
    }
}

pub struct TokensReader<R: io::BufRead> {
    reader: R,
    token: TokenBuffer,
}

impl<R: io::BufRead> Tokens for TokensReader<R> {
    fn next_raw(&mut self) -> Result<&str, LoadError> {
        use std::io::ErrorKind::Interrupted;

        // Clear leading whitespace
        loop {
            match self.reader.fill_buf() {
                Err(ref err) if err.kind() == Interrupted => continue,
                Err(err) => return Err(LoadError::Io(err)),
                Ok([]) => return Err(LoadError::OutOfTokens),
                // Got some content; scan for the next non-whitespace character
                Ok(buf) => match buf.iter().position(|byte| !byte.is_ascii_whitespace()) {
                    Some(i) => {
                        self.reader.consume(i);
                        break;
                    }
                    None => self.reader.consume(buf.len()),
                },
            };
        }

        // If we reach this point, there is definitely a non-empty token ready to be read.
        let mut token_buf = self.token.lock();

        loop {
            match self.reader.fill_buf() {
                Err(ref err) if err.kind() == Interrupted => continue,
                Err(err) => return Err(LoadError::Io(err)),
                Ok([]) => return token_buf.complete(),
                // Got some content; scan for the next whitespace character
                Ok(buf) => match buf.iter().position(u8::is_ascii_whitespace) {
                    Some(i) => {
                        token_buf.extend(&buf[..i]);
                        self.reader.consume(i + 1);
                        return token_buf.complete();
                    }
                    None => {
                        token_buf.extend(buf);
                        self.reader.consume(buf.len());
                    }
                },
            }
        }
    }
}

此实现不处理将字符串解析为 FromStr 类型（单独处理），但它确实处理正确的累积字节，将它们分成空格分隔的标记，并将这些标记解释为 UTF -8。它确实假设只有 ASCII 空白将用于分隔 Token。

值得注意的是，FromStr 不能直接在 fill_buf 缓冲区上使用，因为不能保证令牌不会跨越两个 fill_buf 调用之间的边界，也无法强制 @987654331 @ 读取更多字节，直到现有缓冲区完全耗尽。我假设很明显，一旦你有了Ok(&str)，你就可以在闲暇时对其执行FromStr。

此实现不是 0 复制，而是（摊销的）0 分配，它最大限度地减少了不必要的复制或缓冲。它使用单个持久缓冲区，仅当它对于单个令牌而言太小时才会调整大小，并且它会在令牌之间重用此缓冲区。字节直接从输入BufRead 缓冲区复制到此缓冲区，无需额外的中间复制。