当前位置：文档之家 › Asynchronous Completion Token an Object Behavioral Pattern for Efficient Asynchronous Event

Asynchronous Completion Token an Object Behavioral Pattern for Efficient Asynchronous Event

  • 格式：pdf
  • 大小：793.21 KB
  • 文档页数：8

AsynchronousCompletionTokenAnObjectBehavioralPatternforEfficientAsynchronousEventHandling

TimothyH.HarrisonandDouglasC.SchmidtDepartmentofComputerScienceWashingtonUniversity,St.Louis,Missouri,63130

IrfanPyaraliEastmanKodakCompanyDallas,Texas,75240

ThispaperappearedinProceedingsofthe3annualPat-ternLanguagesofProgrammingconferenceheldatAllertonPark,Illinois,September4-6,1996.

AbstractContemporaryapplicationsmustrespondtomanytypesofevents,rangingfromuserinterfacenotificationstonetworkmessages.Delay-sensitiveapplications,suchasnetworkmanagementsystems,oftenperformlong-runningoperationsasynchronouslytoavoidblockingtheprocessingofotherpendingevents.Whentheseasynchronousoperationscom-plete,applicationsmayneedmoreinformationthansimplythenotificationitselftoproperlyhandletheevent.Thispa-perdescribestheAsynchronousCompletionTokenpattern,whichallowsapplicationstoefficientlyassociatestatewiththecompletionofasynchronousoperations.

1IntentToefficientlyassociatestatewiththecompletionofasyn-chronousoperations.

2AlsoKnownAs“MagicCookie”3Motivation3.1ContextToillustratetheAsynchronousCompletionTokenpattern,considerthestructureofanetworkManagementApplicationthatmonitorstheperformanceandstatusofmultiplecom-ponentsinadistributedElectronicMedicalImagingSystem(EMIS)[1].Figure1showsasimplifiedviewoftheMan-agementApplicationandseveralEMIScomponents.1: ImageServer

: Agent

: ManagementApplication

MONITORING STATION

1:REGISTER FOR IMAGE

SERVER CONNECTIONINFO

3:NOTIFY MANAGEMENT

APPLICATION ANDRETURN CONNECTIONINFO

2:NOTIFY AGENT OF

CONNECTION EVENT

REMOTE HOST

Figure2:EventRegistrationandCallbacklocaldatabase.SincetheManagementApplicationcanreg-isterformanytypesofeventsfromanynumberofAgents,itmustefficientlydeterminetheappropriateactionforeachevent.Morespecifically,AgentsmustprovideautilityfortheManagementApplicationtoassociateadditionalstatewithaneventnotification.ThisassociatedstatemustbesufficientfortheManagementApplicationtodeterminetheappropriatere-sponse(e.g.,displayinginawindoworloggingtoadatabase)fortheevent.Ingeneral,whenprovidinganasynchronousservice(e.g.,EMISAgentspropagatingeventstomaintenanceapplica-tions),theservicemustallowclientstoassociatestatewithasynchronousoperations.Clientsusethestatetodecidetheappropriateactionstoperformuponcompletionoftheop-erations.Thekeydesignchallengeexaminedinthispaperhowtoefficientlyassociateapplication-specificstatewiththecompletionnotifications.

3.2CommonTrapsandPitfallsOnewaytoexecutemultiplelongdurationoperationssimul-taneouslyistoutilizethreads.Forinstance,theManagementApplicationcouldspawnaseparatethreadforeachrequesttoanAgent.Eachrequestwouldexecutesynchronously,blockinguntilitsAgentreplied.Inthisapproach,thestateinformationrequiredtohandletheAgentrepliescouldbestoredimplicitlyinthecontextofeachthread’srun-timestack.Thereareseveraldrawbackswithacompletelysyn-chronousapproachbasedonthreading,however:

Increasedcomplexity–Threadingmayrequirecomplexconcurrencycontrolschemes;

Poorperformance–Threadingmayleadtopoorperfor-manceduetocontextswitching,synchronization,anddatamovement[2];

Lackofportability–ThreadingmaynotbeavailableontheOSplatform.

Anotherwaytoassociatestatewiththecompletionofanasynchronousoperationistodependontheinformationre-turnedbytheasynchronousservice.Forexample,AgentsmustprovidesufficientinformationinthecallbacksotheManagementApplicationcandistinguishbetweenallpossi-bleevents.Thereareseverallimitationstothisapproach,however:

Excessivebandwidth–Providingsufficientdatatotheclientmayrequireanexcessiveamountofdataex-change.Thismaybeparticularlycostlyfordistributedservices.

Lackofcontext–Itmaybetoodifficultfortheservicetoknowwhatdataisneededbytheclients.Forinstance,EMISAgentscannotknowthecontextinwhichtheManagementApplicationmadetherequest.

Performancedegradation–Theclientmayhavetoper-formtimeconsumingprocessing(e.g.,searchingalargetable)touniquelyidentifythecompletionofanasyn-chronouseventbasedonthedatareturnedfromtheser-vice.Thisextraprocessingcandegradetheperformanceoftheclient.

3.3SolutionOften,amoreefficientandflexiblewaytoassociatestatewithcompletioneventsistousetheAsynchronousComple-tionToken(ACT)pattern.TheACTpatternresolvesthefollowingforcesinvolvedwithassociatingstatewithasyn-chronousoperations:

Timeefficiency:ACTsdonotrequirecomplexparsingofdatareturnedwiththenotification.Rather,theACTcanbeanindexordirectpointertothenecessarystate.

Spaceefficiency:ACTsdonotneedbelargeinordertoprovideapplicationswithhooksforassociatingstatewithasynchronousoperations.Forexample,inCandC++,ACTsthatarefourbytevoid*’scanserveasreferencestoanysizeobject.

合集下载

CompletionService 框架基本使用和原理探究(基础篇)

CompletionService 框架基本使用和原理探究(基础篇)

前提概要在开发过程中在使用多线程进行并行处理一些事情的时候，大部分场景在处理多线程并行执行任务的时候，可以通过List 添加Future 来获取执行结果，有时候我们是不需要获取任务的执行结果的，方便后面引出 ExecutorCompletionService。

CompletionService 的介绍CompletionService 接口是一个独立的接口，并没有扩展ExecutorService 。

其默认实现类是ExecutorCompletionService。

接口CompletionService 的功能是：以异步的方式一边执行未完成的任务，一边记录、处理已完成任务的结果。

从而可以将任务的执行与处理任务的执行结果分离开来。

CompletionService 的实现原理CompletionService 就是监视着 Executor 线程池执行的任务，用 BlockingQueue 将完成的任务的结果存储下来。

要不断遍历与每个任务关联的Future，然后不断去轮询，判断任务是否已经完成，功能比较繁琐。

public interface CompletionService<V> {Future<V> submit(Callable<V> task);Future<V> submit(Runnable task, V result);Future<V> take() throws InterruptedException;Future<V> poll();Future<V> poll(long timeout, TimeUnit unit) throws InterruptedException;}方法摘要提交一个 Callable 任务；一旦完成，便可以由 take ()、poll () 方法获取Future submit(Callable task)：提交一个 Runnable 任务，并指定计算结果；Future submit(Runnable task, V result)：获取并移除表示下一个已完成任务的 Future，如果目前不存在这样的任务，则等待。

abpvnet 中cancellationtoken

abpvnet 中cancellationtoken

abpvnet 中cancellationtokenCancellationToken 在 ABP（ Boilerplate）或 ABP vNext（其后续版本，通常称为ABP Framework）中，与在.NET中的任何其他库或框架中的使用方式非常相似。

CancellationToken 是.NET中一个重要的机制，用于传递取消操作的信号，通常与异步编程结合使用。

在ABP中，你可能会在多个地方遇到 CancellationToken，特别是在与后台任务、挂起操作、长时间运行的操作或需要能够被用户或系统取消的操作相关的代码中。

以下是 CancellationToken 在ABP中的一些典型用法：后台工作者（Background Workers）: 当你在ABP中创建后台工作者来处理长时间运行的任务时，你可能希望提供一个取消机制。

通过使用 CancellationToken，你可以优雅地停止后台任务。

应用服务（Application Services）: 在应用服务中执行长时间的操作时（例如，数据导入/导出、报告生成等），你可能希望允许用户取消这些操作。

通过将这些操作的取消令牌传递给相应的服务或仓储方法，你可以实现这一点。

仓储（Repositories）: 虽然在大多数仓储操作中取消可能不是一个常见的需求，但对于那些可能需要很长时间来完成的数据库操作（例如，大型批量操作），使用CancellationToken 仍然是有意义的。

集成事件（Integration Events）: 在处理集成事件时，特别是当这些事件触发外部系统的长时间操作时，CancellationToken 可以用于取消正在进行的操作。

服务到服务的调用（Service-to-Service Calls）: 当你的服务需要调用另一个可能需要很长时间来响应的服务时，传递 CancellationToken 可以让你在需要时取消等待。

在ABP中使用 CancellationToken 的一个关键好处是它能够与ABP的依赖注入和模块化系统无缝集成，使得在整个应用程序中传递和使用取消令牌变得非常容易。

rust tokio 原理

rust tokio 原理

rust tokio 原理Rust语言是一种现代的、安全的系统编程语言，而Tokio是一个基于Rust语言的异步运行时库。

Tokio的原理涉及到异步编程、事件驱动和并发处理等方面。

首先，让我们谈谈异步编程。

在传统的同步编程中，程序的执行是按照顺序一步一步地进行的，当遇到I/O操作时，程序会被阻塞，等待I/O操作完成后才能继续执行。

而在异步编程中，程序可以在等待I/O操作的同时继续执行其他任务，当I/O操作完成后再回来处理结果。

这种方式可以提高程序的并发性能和响应性。

Tokio利用Rust语言的异步特性，通过Future和async/await语法来实现异步编程。

Future是一种表示异步操作结果的抽象类型，而async/await语法则是一种更加直观和方便的异步编程方式，使得编写异步代码更加容易和直观。

其次，Tokio基于事件驱动的模型。

它使用了一种称为Reactor模式的设计，通过注册事件和回调函数的方式来处理I/O事件。

当有I/O事件发生时，Tokio会调用相应的回调函数来处理事件，而不需要阻塞整个线程。

此外，Tokio还提供了一套基于多线程的并发处理机制。

它使用了一种称为Task模型的设计，将异步任务分配给不同的线程来执行，从而实现并发处理。

这种方式可以充分利用多核处理器的性能，提高程序的并发能力。

总的来说，Tokio的原理涉及到异步编程、事件驱动和并发处理等多个方面。

它利用了Rust语言的异步特性和现代编程模式，为开发高性能、高并发的异步应用提供了强大的支持。

希望这些信息能够帮助你更好地理解Tokio的原理。

webasyncmanager使用示例

webasyncmanager使用示例

标题：WebAsyncManager使用示例一、概述WebAsyncManager是Spring框架中用于支持异步方法执行的工具类。

它可以在web应用程序中处理异步请求，并使得异步请求的处理更加灵活和高效。

二、WebAsyncManager的工作原理1. 启动异步请求WebAsyncManager可以通过Async注解或者自定义的异步方法来启动异步请求。

异步请求一旦启动，就会在后台线程中执行，释放主线程的资源。

2. 处理异步请求WebAsyncManager在后台线程中处理异步请求的可以让前台主线程继续处理其他请求，提高了web应用程序的并发处理能力。

3. 异步请求完成一旦异步请求处理完成，WebAsyncManager会将处理结果返回给前台主线程，从而实现异步请求的高效处理。

三、WebAsyncManager的使用示例以下是一个简单的WebAsyncManager使用示例，以便读者更好地理解其用法和作用。

```javaControllerpublic class UserController {Autowiredprivate UserService userService;RequestMapping("/user")public Callable<String> findUserById(RequestParam("id") long id) {Callable<String> result = new Callable<String>() {Overridepublic String call() throws Exception {return userService.findUserById(id);}};return result;}}Servicepublic class UserService {Asyncpublic String findUserById(long id) {// 处理用户查询业务逻辑return "user_" + id;}}```上面的代码演示了一个简单的用户查询示例，UserController中的findUserById方法使用Callable来处理异步请求，而UserService中的findUserById方法则使用Async注解来标注为异步方法。