首页 > 其他分享 >Fork/Join

Fork/Join

时间:2023-12-01 12:33:05浏览次数:32  
标签:Fork Join 队列 ForkJoinTask int 任务

Fork/Join框架简介

Fork/Join框架简介

Fork/Join它可以将一个大的任务拆分成多个子任务并行处理,最后将子任务结果合成并最后的计算结果,并进行输出。FOrk/Join框架要完成两件事情。Fork:把一个复杂的任务进行分析,大任务拆分成小任务;Join:把拆分的结果进行合并。

1.任务分割,Fork/Join框架需要把大的任务分割成足够小的任务,如果子任务比较大的话还要对子任务进行继续分割。
2.执行任务并合并结果,分割的子任务分别放到双端队列里,然后几个启动线程,分别从双端队列里获取任务执行。子任务执行完后的结果都放在另一个队列里,启动一个线程从队列里取数据,然后合并这些数据。

双端队列

双端队列(Double-ended Queue),简称Deque,是一种具有队列和栈特性的数据结构。双端队列允许从两端插入和删除元素,因此可以在队列的头部和尾部进行插入和和删除操作。
双端队列可以在队列的两端执行以下操作:

  • 在队列头部插入/删除元素;
  • 在队列尾部插入/删除元素;
    双端队列的特点是可以在队列的两端进行插入和删除操作,这使得它非常灵活和方便。它可以用于模拟栈,队列和其他数据结构,同时也可以用于解决一些特定的问题,如滑动窗口问题等。在Java中,Deque接口是双端队列的标准实现,它有两个主要的实现类:ArrayDeque,LinkedList。

Fork/Join框架实现任务分割和合并

  • 1.ForkJoinaTask:要使用Fork/Join框架,首先要创建一个ForkJoin任务,该类提供了在任务中执行fork/join的机制。通常情况下,我们不使用ForkJoin的子类ForkJoinTask,只需要继承ForkJoinTask子类,然后使用,Fork/join框架提供了两个子类,RecursiveAction 用以没有返回结果的任务,RecursiveTask 用以有返回结果的任务。
  • 2.ForkJoinPool:ForkJoinTask需要通过ForkJoinPool来执行。
  • 3.RecursiveTask:继承此类后,可以自定义调用的任务

ForkJoinPool架构图

RecursiveTask架构图

Fork/Join实现原理

ForkJoinPool由ForkJoinTask数组和ForkJoinWorkerThread数组组成,ForkJoinTask数组负责存放任务,以及将这些任务提交给ForkJoinPool,而ForkJoinWorkerThread负责执行这些任务。

Fork方法的实现原理

当我们调用ForkJoinTask的fork方法时,程序会把任务放在ForkJoinWorkerThread的pushTask的workQueue中,异步地执行这个任务,然后立即返回结果。

    public final ForkJoinTask<V> fork() {
        Thread t;
        if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread)
            ((ForkJoinWorkerThread)t).workQueue.push(this);
        else
            ForkJoinPool.common.externalPush(this);
        return this;
    }

push方法把当前任务存放在ForkJoinTask数组队列里。然后再调用ForkJoinPool的signalWork()方法唤醒或创建一个工作线程执行任务。

    final void push(ForkJoinTask<?> task) {
        ForkJoinTask<?>[] a; ForkJoinPool p;
        int b = base, s = top, n;
        if ((a = array) != null) {    // ignore if queue removed
            int m = a.length - 1;     // fenced write for task visibility
            U.putOrderedObject(a, ((m & s) << ASHIFT) + ABASE, task);
            U.putOrderedInt(this, QTOP, s + 1);
            if ((n = s - b) <= 1) {
                if ((p = pool) != null)
                    p.signalWork(p.workQueues, this);//执行任务
            }
            else if (n >= m)
                growArray();
        }
    }

Join方法

Join方法的主要作用是阻塞当前线程并等待获取结果。

	/**
     * Returns the result of the computation when it {@link #isDone is
     * done}.  This method differs from {@link #get()} in that
     * abnormal completion results in {@code RuntimeException} or
     * {@code Error}, not {@code ExecutionException}, and that
     * interrupts of the calling thread do <em>not</em> cause the
     * method to abruptly return by throwing {@code
     * InterruptedException}.
     *
     * @return the computed result
     */
    public final V join() {
        int s;
        if ((s = doJoin() & DONE_MASK) != NORMAL)//执行doJoin() 根据返回状态判断返回结果
            reportException(s);
        return getRawResult();
    }

任务状态有4种 已完成(NORMAL),被取消(CANCELLED),信号(SIGNAL)和出现异常(EXCEPTIONAL)

doJoin方法

/**
Implementation for join, get, quietlyJoin. Directly handles only cases of already-completed, external wait, * and unfork+exec. Others are relayed to ForkJoinPool.awaitJoin.
* Returns: status upon completion
*/
	/*
	流程
	1.当任务状态,已经执行完成,就直接返回任务状态
	2.如果没有执行完,则从任务数组里取出任务并执行。
	3.如果任务顺利执行完成,则设置任务状态未NORMAL,出现异常,则记录异常,并将任务状态设置为EXCEPTIONAL
	*/
	private int doJoin() {
        int s; Thread t; ForkJoinWorkerThread wt; ForkJoinPool.WorkQueue w;
        return (s = status) < 0 ? s :
            ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) ?
            (w = (wt = (ForkJoinWorkerThread)t).workQueue).
            tryUnpush(this) && (s = doExec()) < 0 ? s :
            wt.pool.awaitJoin(w, this, 0L) :
            externalAwaitDone();
    }
/**
* Primary execution method for stolen tasks. Unless done, calls exec and records status if completed, but 	 * doesn't wait for completion otherwise.
* Returns: status on exit from this method
*/
	final int doExec() {
        int s; boolean completed;
        if ((s = status) >= 0) {
            try {
                completed = exec();
            } catch (Throwable rex) {
                return setExceptionalCompletion(rex);
            }
            if (completed)
                s = setCompletion(NORMAL);
        }
        return s;
    }

Fork/Join框架的异常处理

ForkJoinTask在执行的时候可能会抛出异常,但是我们没办法在主线程里直接捕获异常,所以ForkJoinTask提供了isCompletedAbnormally()方法来检查任务是否已经抛出异常或已经被取消了,并且可以通过ForkJoinTask的getException获取异常。

public final Throwable getException() {//任务没有完成,或者没有抛出异常返回null
    int s = status & DONE_MASK;
    return ((s >= NORMAL)    ? null :
            (s == CANCELLED) ? new CancellationException() ://任务取消,返回CancellationException
            getThrowableException());
}

案例计算1+..+100

class MyTask extends RecursiveTask<Integer> {

    public static final Integer VALUE = 10;
    private int begin;
    private int end;
    private int result;

    public MyTask(int begin, int end) {
        this.begin = begin;
        this.end = end;
    }

    @Override
    protected Integer compute() {
        if (begin - end < VALUE) {//差值小于10
            for (int i = begin; i <= end; i++) {
                result += i;
            }
        } else {
            int middle = ( begin + end) / 2;
            MyTask myTask1 = new MyTask(begin, middle);
            MyTask myTask2 = new MyTask(middle, end);
            myTask1.fork();
            myTask2.fork();
            result = myTask1.join() + myTask2.join();
        }
        return result;
    }
}

public class ForkJoinDemo {
    public static void main(String[] args) throws ExecutionException, InterruptedException {
        ForkJoinPool forkJoinPool = new ForkJoinPool();
        MyTask myTask = new MyTask(1, 100);
        ForkJoinTask<Integer> joinTask = forkJoinPool.submit(myTask);
        System.out.println(joinTask.get());
        forkJoinPool.shutdown();
    }
}

只是为了记录自己的学习历程,且本人水平有限,不对之处,请指正。

标签:Fork,Join,队列,ForkJoinTask,int,任务
From: https://www.cnblogs.com/changming06/p/17869432.html

相关文章

  • SQL Server中left join、inner join和right join的区别?
    数据库是我们IT行家常的事情,相信大家都不陌生,计算机专业都开了数据库系统概论这门课程,我分享下在暑假找实习参加宣讲会过程做的笔试题中遇到关于leftjoin、innerjoin和rightjoin的区别的简述题,希望对需要的朋友有所帮助。看下面一个小例子,我懒的开软件,用Excel替代下,谅解谅解~st......
  • oracle、sql server Join连表修改。
    1、Oracle连表修改mergeintot_usert1using(select*fromt_class)t2on(t1.userId=t2.userId)whenmatchedthenupdatesett1.name=t2.name2、Sqlserver连表修改UPDATEbSETb.ProductSN=p.productsnFROMt_userbINNERJOINt_studentpONb.MainSN=p.Ma......
  • SQL FULL OUTER JOIN 关键字:左右表中所有记录的全连接解析
    SQLRIGHTJOIN关键字SQLRIGHTJOIN关键字返回右表(table2)中的所有记录以及左表(table1)中的匹配记录。如果没有匹配,则左侧的结果为0条记录。RIGHTJOIN语法SELECTcolumn_name(s)FROMtable1RIGHTJOINtable2ONtable1.column_name=table2.column_name;注意:在某些数据库......
  • SQL FULL OUTER JOIN 关键字:左右表中所有记录的全连接解析
    SQLRIGHTJOIN关键字SQLRIGHTJOIN关键字返回右表(table2)中的所有记录以及左表(table1)中的匹配记录。如果没有匹配,则左侧的结果为0条记录。RIGHTJOIN语法SELECTcolumn_name(s)FROMtable1RIGHTJOINtable2ONtable1.column_name=table2.column_name;注意:在某些数据库......
  • SQL JOIN 子句:合并多个表中相关行的完整指南
    SQLJOINJOIN子句用于基于它们之间的相关列合并来自两个或更多表的行。让我们看一下“Orders”表的一部分选择:OrderIDCustomerIDOrderDate1030821996-09-1810309371996-09-1910310771996-09-20然后,看一下“Customers”表的一部分选择:CustomerID......
  • CaltechCS122 笔记:Assignment 2: SQL Translation and Joins
    Assignment2:SQLTranslationandJoinsTranslationandjoinPlanNode及其子类,如图所示:......
  • std::thread方法join与detach
    1、std::joinstd::join是std::thread类的成员函数之一,用于等待线程的执行完成。#include<iostream>#include<utility>#include<thread>#include<chrono>#include<atomic>voidprocess(std::stringstr_info){for(inti=0;i<500;++i)......
  • C# 实现FULL JOIN 效果
    参考:https://dotnettutorials.net/lesson/full-outer-join-in-linq/思路就是先leftjoin再rightjoin,最后unionnamespaceTest{internalclassProgram{staticvoidMain(string[]args){//创建测试数据varlistA=n......
  • Joint Autoregressive and Hierarchical Priors for Learned Image Compression
    abstruct最近的图像压缩模型基于自编码器,学习近似可逆的映射(从像素到量化的可逆表示),这些与熵模型(潜在表示的先验)结合,可以与标准算术编码算法一起使用产生压缩比特流。与简单的全因子先验相比,分层熵模型可以利用更多潜变量中的结构,从而在保存端到端优化的同时提高压缩性能。众所周......
  • fork: Cannot allocate memory
    环境背景项目值操作系统CentOS7.9KVMLibvirt4.5.0问题现象-bash-4.2$sudo-i-bash:fork:Cannotallocatememory-bash:fork:Cannotallocatememory-bash-4.2$sysctl-p-bash:fork:Cannotallocatememory-bash:fork:Cannotallocatememor......