作者:谢敬伟,江湖人称“刀哥”,20年IT老兵,数据通信网络专家,电信网络架构师,目前任Netwarps开发总监。刀哥在操作系统、网络编程、高并发、高吞吐、高可用性等领域有多年的实践经验,并对网络及编程等方面的新技术有浓厚的兴趣。

现代的CPU基本都是多核结构,为了充分利用多核的能力,多线程都是绕不开的话题。无论是同步或是异步编程,与多线程相关的问题一直都是困难并且容易出错的,本质上是因为多线程程序的复杂性,特别是竞争条件的错误,使得错误发生具备一定的随机性,而随着程序的规模越来越大,解决问题的难度也随之越来越高。

其他语言的做法

C/C++将同步互斥,以及线程通信的问题全部交给了程序员。关键的共享资源一般需要通过Mutex/Semaphone/CondVariable之类的同步原语保证安全。简单地说,就是需要加锁。然而怎么加,在哪儿加,怎么释放,都是程序员的自由。不加也能跑,绝大多数时候,也不会出问题。当程序的负载上来之后,不经意间程序崩溃了,然后就是痛苦地寻找问题的过程。

Go提供了通过channel的消息机制来规范化协程之间的通信,但是对于共享资源,做法与C/C++没有什么不同。当然,遇到的问题也是类似。

Rust 做法

Go类似,Rust 也提出了channel机制用于线程之间的通信。因为Rust 所有权的关系,无法同时持有多个可变引用,因此channel被分成了rxtx两部分,使用起来没有Go的那么直观和顺手。事实上,channel的内部实现也是使用原子操作、同步原语对于共享资源的封装。所以,问题的根源依然在于Rust如何操作共享资源。

Rust 通过所有权以及Type系统给出了解决问题的一个不同的思路,共享资源的同步与互斥不再是程序员的选项,Rust代码中同步及互斥相关的并发错误都是编译时错误,强迫程序员在开发时就写出正确的代码,这样远远好过面对在生产环境中顶着压力排查问题的窘境。我们来看一看这一切是如何做到的。

Send,Sync 究竟是什么

Rust语言层面通过 std::marker 提供了 SendSync 两个Trait。一般地说法,Send标记表明类型的所有权可以在线程间传递,Sync标记表明一个实现了Sync 的类型可以安全地在多个线程中拥有其值的引用。这段话很费解,为了更好地理解SendSync,需要看一看这两个约束究竟是怎样被使用的。以下是标准库中std::thread::spawn()的实现:

    pub fn spawn<F, T>(self, f: F) -> io::Result<JoinHandle<T>>
    where
        F: FnOnce() -> T,
        F: Send + 'static,
        T: Send + 'static,
    {
        unsafe { self.spawn_unchecked(f) }
    }

可以看到,创建一个线程,需要提供一个闭包,而这个闭包的约束是 Send ,也就是需要能转移到线程中,闭包返回值T的约束也是 Send(这个不难理解,线程运行后返回值需要转移回去) 。举例说明,以下代码无法通过编译。

    let a = Rc::new(100);
    let h = thread::spawn(move|| {
        let b = *a+1;

    });

    h.join();

编译器指出,std::rc::Rc<i32> cannot be sent between threads safely。原因在于,闭包的实现在内部是由编译器创建一个匿名结构,将捕获的变量存入此结构。以上代码闭包大致被翻译成:

struct {
    a: Rc::new(100),
    ...
}

Rc<T>是不支持 Send 的数据类型,因此该匿名结构,即这个闭包,也不支持 Send ,无法满足std::thread::spawn()关于F的约束。

上面代码改用Arc<T>,则编译通过,因为Arc<T>是一种支持 Send的数据类型。但是Arc<T>不允许共享可变引用,如果想实现多线程之间修改共享资源,则需要使用Mutex<T>来包裹数据。代码会改为这个样子:

    let mut a = Arc::new(Mutex::new(100));
    let h = thread::spawn(move|| {
        let mut shared = a.lock().unwrap();
        *shared = 101;

    });
    h.join();

为什么Mutex<T>可以做到这一点,能否改用RefCell<T>完成相同功能?答案是否定的。我们来看一下这几个数据类型的限定:

unsafe impl<T: ?Sized + Sync + Send> Send for Arc<T> {}
unsafe impl<T: ?Sized + Sync + Send> Sync for Arc<T> {}

unsafe impl<T: ?Sized> Send for RefCell<T> where T: Send {}
impl<T: ?Sized> !Sync for RefCell<T> {}

unsafe impl<T: ?Sized + Send> Send for Mutex<T> {}
unsafe impl<T: ?Sized + Send> Sync for Mutex<T> {}

Arc<T>可以Send,当其包裹的T同时支持SendSync。很明显Arc<RefCell<T>>不满足此条件,因为RefCell<T>不支持Sync。而Mutex<T>在其包裹的T支持Send的前提下,满足同时支持SendSync。实际上,Mutex<T>的作用就是将一个支持Send的普通数据结构转化为支持Sync,进而可以通过Arc<T>传入线程中。我们知道,多线程下访问共享资源需要加锁,所以Mutex::lock()正是这样一个操作,lock()之后便获取到内部数据的可变引用。

通过上述分析,我们看到Rust另辟蹊径,利用所有权以及Type系统在编译时刻解决了多线程共享资源的问题,的确是一个巧妙的设计。

异步代码,协程

异步代码同步互斥问题与同步多线程代码没有本质不同。异步运行库一般提供类似于std::thread::spawn()的方式来创建协程/任务,以下是async-std创建一个协程/任务的API

pub fn spawn<F, T>(future: F) -> JoinHandle<T>
where
    F: Future<Output = T> + Send + 'static,
    T: Send + 'static,
{
    Builder::new().spawn(future).expect("cannot spawn task")
}

可以看到,与std::thread::spawn()非常相似,闭包换成了Future,而Future要求Send约束。这意味着参数future必须可以Send。我们知道,async语法通过generaror生成了一个状态机驱动的Future,而generaror与闭包类似,捕获变量,放入一个匿名数据结构。所以这里变量必须也是Send才能满足FutureSend约束条件。试图转移一个Rc<T>进入async block依然会被编译器拒绝。以下代码无法通过编译:

    let a = Rc::new(100);
    let h = task::spawn(async move {
        let b = a;
    });

此外,在异步代码中,原则上应当避免使用同步的操作从而影响异步代码的运行效率。试想一下,如果Future中调用了std::mutex::lock,则当前线程被挂起,Executor将不再有机会执行其他任务。为此,异步运行库一般提供了类似于标准库的各种同步原语。这些同步原语不会挂起线程,而是当无法获取资源时返回Poll::PendingExecutor将当前任务挂起,执行其他任务。

完美了么?死锁问题

Rust虽然用一种优雅的方式解决了多线程同步互斥的问题,但这并不能解决程序的逻辑错误。因此,多线程程序最令人头痛的死锁问题依然会存在于Rust的代码中。所以说,所谓Rust“无惧并发”是有前提的。至少在目前,看不到编译器可以智能到分析并解决人类逻辑错误的水平。当然,届时程序员这个岗位应该也就不存在了...


深圳星链网科科技有限公司(Netwarps),专注于互联网安全存储领域技术的研发与应用,是先进的安全存储基础设施提供商,主要产品有去中心化文件系统(DFS)、区块链基础平台(SNC)、区块链操作系统(BOS)。
微信公众号:Netwarps
image

Netwarps
26 声望13 粉丝

Netwarps 专注于安全存储技术产品的研发与应用,主要产品有去中心化文件系统(DFS)、去中心化计算平台(DCP),致力于提供基于去中心化网络技术实现的分布式存储和分布式计算平台,具有高可用、低功耗和低网络的...