• 2024-06-12CSCI-UA.0480-051: Parallel Computing
    CSCI-UA.0480-051:ParallelComputingFinalExam(May 15th,2023)Total:100 pointsProblem 1Supposewehavethe followingtwo DAGs. Each DAG represents a process. That is, DAG 1 is a process and DAG 2 is another process. The two DAG
  • 2024-04-25spark standalone同时运行pyspark和spark-shell
    需要限制资源数量,使用spark.cores.max或--total-executor-cores来指定最大核数。假设集群一共4c5.6gpyspark(使用2c2g)frompyspark.sqlimportSparkSessionspark=SparkSession.builder\.master("spark://worker1:7077")\.appName("pysparkApp")\.
  • 2024-03-29ESP32-P4 --- 多核影响
    为避免意外读取flashcache,一个CPU在启动flash写入或擦除操作时,另一个CPU将阻塞。在flash操作完成前,会禁用所有在CPU上非IRAM安全的中断。 HAL函数``cpu_hal_get_cycle_count()``,PU周期是各核心独立计数的,因此本方法仅适用于测量中断处理程序或固定在单个核心
  • 2024-03-26spark-submit 主要参数详细说明及Standalone集群最佳实践
    文章目录1.前言2.参数说明3.Standalone集群最佳实践1.前言部署提交应用到spark集群,可能会用到spark-submit工具,鉴于网上的博客质量残差不齐,且有很多完全是无效且错误的配置,没有搞明白诸如--total-executor-cores、--executor-cores、--num-executors的关系
  • 2023-08-10solr的master-slave和Multiple Cores
    Solrmulticore配置April21st,2011绚丽也尘埃LeaveacommentGotocommentsSolr继续学习中,感觉Solr的multicore主要用途有两个:1、充分利用服务器资源。在一台服务器上部署不用的搜索应用。2、提高一个应用服务能力,在服务器上同时部署同一个应用的多个core,这些core共用一份索
  • 2023-06-30狂收 3.2k star!百度开源压测工具,可模拟几十亿的并发场景,太强悍了!
    dperf是一款基于DPDK的100Gbps网络性能和负载测试软件,能够每秒建立千万级的HTTP连接、亿级别的并发请求和数百Gbps的吞吐量。优点性能强大:基于DPDK,使用一台普通x86服务器就可以产生巨大的流量:千万级的HTTP每秒新建连接数,数百Gbps的带宽,几十亿的并发连接数统
  • 2022-12-13linux查看服务器参数
    cpu物理cpu,核数,逻辑cpu数物理cpu(physicalid):主板上实际插入cpu数量cpu核心数(cpucores):单块cpu上能处理数据的芯片组的数量,双核,四核等逻辑cpu:=物理cpu个数*每个cp
  • 2022-10-31cuda cores
    基本介绍从这个link看的:https://www.techcenturion.com/nvidia-cuda-cores/其中,抽象上这里表述较好理解:LetusconsideranexampletounderstandtheworkingofCUDA