首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏开源技术小栈

    TP5系列 | Queue消息队列

    ThinkPHP5 Queue消息队列 优点 1、Queue内置了 Redis,Database,Topthink ,Sync这四种驱动,本文使用Redis驱动 2、Queue消息队列适用于大并发或者返回结果 但是推送消息依然是成功的。这个就是中间件的优势。他连接两个系统,但是又不会互相耦合,生产者并不会因为消费者的异常而影响到自己。 3、消息推送成功之后,如果没有消费者,消息会堆积在队列中。 27@qq.com 邮件发送成功了 Processed: app\common\queue\TestQueue 这里每消费掉一条消息,Redis数据库中将会减少一条消息 查看Redis队列消息 127.0.0.1 2、一开始监听队列。刚刚在队列中堆积的消息立刻就被获取到,开始执行了代码。最后执行完成,删除了消息。 3、在 queue:work--daemon 单进程循环消费的时候,改了代码是不会生效的。 这种业务就非常适合使用消息队列系统来异步处理,使性能提升。

    5K52发布于 2019-08-06
  • 来自专栏编程

    5. 消息队列中,如何保证消息的顺序性?

    消息队列中,如何保证消息的顺序性? 面试官心理分析 其实这个也是用 MQ 的时候必问的话题,第一看看你了不了解顺序这个事儿?第二看看你有没有办法保证消息是有顺序的?这是生产系统中常见的问题。 比如,生产者向 RabbitMQ 里发送了三条数据,顺序依次是 data1/data2/data3,压入的是 RabbitMQ 的一个内存队列。 接着,我们在消费者里可能会搞多个线程来并发处理消息。因为如果消费者是单线程消费处理,而处理比较耗时的话,比如处理一条消息耗时几十 ms,那么 1 秒钟只能处理几十条消息,这吞吐量太低了。 拆分多个 queue,每个 queue 一个 consumer,就是多一些 queue 而已,确实是麻烦点;或者就一个 queue 但是对应一个 consumer,然后这个 consumer 内部用内存队列做排队

    83110编辑于 2024-11-01
  • 来自专栏决胜机器学习

    消息队列(一) MySQL实现消息队列

    消息队列(一)MySQL实现消息队列 (原创内容,转载请注明来源,谢谢) 一、概述 消息队列(MessageQueue,通常简称MQ)是一种进程间通信或同一进程的不同线程间的通信方式,是分布式应用间交换信息的一种技术 通过消息队列,应用程序可独立地执行,它们不需要知道彼此的位置、或在继续执行前不需要等待接收程序接收此消息消息队列有多种实现方式,可以用关系型数据库(如Mysql)、Nosql(如redis)、现有框架(如rabbitMQ)等。 Mysql处理消息队列的场景:主要是在数据处理量大、耗时久、处理流程繁杂、处理内容多、需要持久化(入库)、业务处理要求相对不实时的场景,如发邮件、发短信、订单后续处理、操作数据记录日志等。 因此,此场景就非常适合于用Mysql解决此消息队列

    17.3K41发布于 2018-03-07
  • 来自专栏crmeb

    thinkphp5消息队列详细教程

    消息队列的概念、原理和场景 在高并发的时候,程序往往无法做到及时的处理。我们引入一个中间的系统,来进行分流和减压。 所以从本质上讲:消息队列就是一个队列结构的中间件。 1、队列结构的中间件 2、消息放入后,不必立即处理 3、由订阅者/消费者按顺序处理 也就是说:当遇到一个比较大或者耗时比较长的环节的时候,而同时你的业务又不需要立即知道这个环节的结果,使用消息队列是好的选择 知识付费的拼团功能使用的就是消息队列功能;把每个拼团订单都储存在消息队列中,拼团完成或拼团结束就可以自动处理这个订单。 $data['pink_time']) return true;        $timewait = $data['pink_time'] + 300;         // 4.将该任务推送到消息队列 do_job_pink,’名称’); application\index\job\PullDoPink: private function 名称($data) {     return true; } 完成后重新启动消息队列

    1.8K20编辑于 2022-05-05
  • 来自专栏java思维导图

    消息队列探秘 – RabbitMQ 消息队列介绍

    在2013年5月被并入Pivotal。其实VMWare,Pivotal和EMC本质上是一家的。不同的是VMWare是独立上市子公司,而Pivotal是整合了EMC的某些资源,现在并没有上市。 5)如何有效的将数据发送到相关的接收者?也就是说将接收者subscribe 不同的数据,如何做有效的filter。 6)如何做到可扩展,甚至将这个通信模块发到cluster上? Broker: 简单来说就是消息队列服务器实体。 Exchange: 消息交换机,它指定消息按什么规则,路由到哪个队列。 Queue: 消息队列载体,每个消息都会被投入到一个或多个队列。 Queue Queue(队列)是RabbitMQ的内部对象,用于存储消息,用下图表示。 queue ? ,根据其中的correlationId属性分析哪条请求被执行了,根据执行结果进行后续业务处理 5.

    5.4K20发布于 2019-11-05
  • 来自专栏云服务器购买

    消息队列-腾讯云消息队列 CKafka

    腾讯云消息队列 CKafka,分布式、高吞吐量、高可扩展性的消息服务,100%兼容开源 Apache Kafka 0.9 0.10 腾讯云消息队列 CKafka点击查看详情 消息队列 CKafka 简介 消息队列 CKafka(Cloud Kafka)是一个分布式、高吞吐量、高可扩展性的消息系统,100%兼容开源 Kafka API(0.9、0.10版本)。 腾讯云消息队列 CKafka 的特性 兼容开源 100% 兼容 Apache Kafka 0.9 0.10版本,迁移上云0成本。 高可靠 消息队列 CKafka 集群性能强劲,生产性超越开源方案;此外,消息队列 CKafka 分布式的部署,集群稳定性也有很好的保障。 应用场景 日志分析系统 消息队列 CKafka 结合大数据套件 EMR,构建完整的日志分析系统。

    8.5K60发布于 2019-08-06
  • 来自专栏互联网技术栈

    消息队列探秘-RabbitMQ消息队列介绍

    在2013年5月被并入Pivotal。其实VMWare,Pivotal和EMC本质上是一家的。不同的是VMWare是独立上市子公司,而Pivotal是整合了EMC的某些资源,现在并没有上市。 5)如何有效的将数据发送到相关的接收者?也就是说将接收者subscribe 不同的数据,如何做有效的filter。 6)如何做到可扩展,甚至将这个通信模块发到cluster上? ---- Broker: 简单来说就是消息队列服务器实体。 Exchange: 消息交换机,它指定消息按什么规则,路由到哪个队列。 Queue: 消息队列载体,每个消息都会被投入到一个或多个队列。 Queue Queue(队列)是RabbitMQ的内部对象,用于存储消息,用下图表示。 queue ? 指定的Queue,从中收到服务器的应答消息后,根据其中的correlationId属性分析哪条请求被执行了,根据执行结果进行后续业务处理 5.

    4.9K30发布于 2018-12-12
  • 消息队列

    消息队列中间件、分布式面向对象中间件和事务处理中间件等。 消息队列服务是一种松耦合的分布式应用集成形式。 消息队列分为用户创建队列和系统队列,用户队列分为: 1)“公共队列”在整个可传送消息的“消息队列”网络中复制并传输,并且有可能由网络连接的所有站点访问。 2)“专用队列”不在整个网络中发布。 系统队列分为: 1)“日记队列”可选的存储发送消息的副本和从队列中溢出的消息副本。 2)“死信队列”存储无法传送或已过期的消息的副本。 消息队列服务系统处理高并发服务是又一技术难点,服务器由原来处理5个并发任务到16并发任务,再到2000并发任务一直不断的改进。 MB消息路由和数据转换。 消息队列技术是分布式应用间交换信息的一种技术。消息队列可驻留在内存或磁盘上,队列存储消息直到它们被应用程序读走。

    67410编辑于 2025-08-29
  • 消息队列

    什么是消息队列消息队列是一种异步通信(Asynchronous Communication)的服务或组件。 它充当了消息的中介:发送方(生产者,Producer)将消息发送到队列中,接收方(消费者,Consumer)从队列中获取并处理消息。 核心特点是解耦:生产者和消费者不需要知道彼此的存在,它们只与消息队列交互。消息队列是解决高并发问题的关键技术之一。2.解决了什么问题? 消息队列主要解决了分布式系统中的三大核心问题:解耦(Decoupling):问题:系统间存在强依赖关系。解决:将消息的发送和接收分离开。 2.Broker 真正的 “消息存储 & 转发节点”:存储生产者发送的消息,给消费者提供消息读取;管理 Topic(消息主题)、Queue(消息队列)等元数据。

    85010编辑于 2025-11-11
  • 来自专栏晨曦破晓の家

    消息队列

    啥是消息队列 一般来说,消息队列是一种异步的服务间通信方式,是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。 通过使用消息队列,我们可以异步处理请求,从而缓解系统的压力。 消息队列有哪些 Kafka RocketMQ RabbitMQ pulsar activeMQ verneMQ 一个大型的分布式系统,通常都会异步化,走消息总线。 消息队列作为最主要的基础组件,在整个体系架构中,有着及其重要的作用。异步通常意味着编程模型的改变,时效性会降低。 kafka是目前最常用的消息队列,尤其是在大数据方面,有着极高的吞吐量。 而rocketmq和rabbitmq,都是电信级别的消息队列,在业务上用的比较多。相比较而言,ActiveMQ使用的最少,属于较老一代的消息框架。

    5.2K30发布于 2020-09-11
  • 消息队列

    二、使用场景异步处理发送者将消息发送给消息队列之后,不需要同步等待消息接收者处理完毕,而是立即返回进行其它操作。消息接收者从消息队列中订阅消息之后异步处理。 例如在注册流程中通常需要发送验证邮件来确保注册用户身份的合法性,可以使用消息队列使发送验证邮件的操作异步处理,用户在填写完注册信息之后就可以完成注册,而将发送验证邮件这一消息发送到消息队列中。 可以将请求发送到消息队列中,服务器按照其处理能力从消息队列中订阅消息进行处理。 通过使用消息队列,一个模块只需要向消息队列中发送消息,其它模块可以选择性地从消息队列中订阅消息从而完成调用。三、可靠性发送端的可靠性发送端完成操作后一定能将消息成功发送到消息队列中。 事务提交成功后,将消息表中的消息转移到消息队列中,若转移消息成功则删除消息表中的数据,否则继续重传。接收端的可靠性接收端能够从消息队列成功消费一次消息

    1.6K30编辑于 2024-05-15
  • 来自专栏全栈程序员必看

    消息队列

    消息队列 一、消息模型 点对点 消息生产者向消息队列中发送了一个消息之后,只能被一个消费者消费一次。 发布/订阅 消息生产者向频道发送一个消息之后,多个消费者可以从该频道订阅到这条消息并消费。 二、使用场景 异步处理 发送者将消息发送给消息队列之后,不需要同步等待消息接收者处理完毕,而是立即返回进行其它操作。消息接收者从消息队列中订阅消息之后异步处理。 可以将请求发送到消息队列中,服务器按照其处理能力从消息队列中订阅消息进行处理。 通过使用消息队列,一个模块只需要向消息队列中发送消息,其它模块可以选择性地从消息队列中订阅消息从而完成调用。 三、可靠性 发送端的可靠性 发送端完成操作后一定能将消息成功发送到消息队列中。 事务提交成功后,将消息表中的消息转移到消息队列中,若转移消息成功则删除消息表中的数据,否则继续重传。 接收端的可靠性 接收端能够从消息队列成功消费一次消息

    4.6K20发布于 2021-04-07
  • 消息队列

    消息队列 前言: 说实话,最近还是比较忙的,手上素材倒是一大把,但是大多只是初步整理了。但是博客这种东西还是要写的,果然后面还是要放低一下排版要求(扩展性的一些东西也少提一些)。 简介: 消息队列这个东西,其实网上的资料还是很多的。我就简单说一些自己的认识与源代码哈。 演变: 我是很喜欢了解技术演进的,因为演进的过程展现了前辈们的智慧。 最早的程序串行执行就不说了。 当然了,在本篇中,只简单谈一下异步通信的主流实现-消息队列。 选择: 选择方面,我就不多说了,目前只用过RabbitMq,RocketMq,Kafka。 网上有关消息队列选择的文章很多,很细致,我就不赘述了。 代码实现: 这里贴出来的都是实际生产代码(如果内部版本也算的话,嘿嘿),所以如果有一些不是很熟悉的类,请查看import,是否是项目自身的类。 virtual-host: "/" connection-timeout: 15000 小结: 这里不得不赞一下Spring,它通过提供RabbitMq地封装API-ampq,极大地简化了消息队列的代码

    34910编辑于 2025-08-26
  • 来自专栏springBoot3.0

    消息队列

    关于消息队列 ???? 文章简介:Kafka ???? 创作目的:消息队列 ☀️ 今日天气:天气很好 ???? 每日一言:“所行皆坦途 所求皆如愿。” ---- kafka常用于构建TB级别的异步消息系统 首先谈到对于框架的含义 : Java 框架由一系列可重用的预编写代码组成,它们起着模板的作用,开发人员可以根据需要通过填充自定义代码来创建应用。 在我们不使用Kafka的情况下,我们也能通过Java自带的API:BlockingQueue解决阻塞队列、实现消息系统或解决类似的问题、 ! 消费者 #1 got: 5 生产者 #1 put: 6 消费者 #1 got: 6 生产者 #1 put: 7 消费者 #1 got: 7 生产者 #1 put: 8 消费者 #1 got: 8 生产者 的5种子类实现方式大同小异,这次就以最常用的ArrayBlockingQueue做源码解析。

    4.1K20编辑于 2023-03-06
  • 来自专栏技术换美食换不换

    消息队列

    实时性要求不高,比较耗时的任务,可以考虑消息队列,如激活邮件,图像处理。 应用场景 应用耦合:多应用对于同一消息处理 异步处理:应用建并发处理消息 流量削锋 消息驱动系统:log 消息通讯:订阅同一主题,实现点对点通信 成熟MQ特点 RabbitMQ: 不支持消息批量处理,多 client无序,不支持事务 Kafka:只支持pull,不支持push,不支持事务 RockerMQ:最高单机吞吐量,但ali只有java客户端 ZeroMQ:“史上最快消息队列” 功能队列 优先级队列 延迟队列:30分钟未付款 死信队列:回退队列,充实队列

    4K20发布于 2018-08-28
  • 来自专栏Owen's World

    消息队列

    为什么使用消息队列 其实就是问问你消息队列都有哪些使用场景,然后你项目里具体是什么场景,说说你在这个场景里用消息队列是什么? 先说一下消息队列常见的使用场景吧,其实场景有很多,但是比较核心的有 3 个:解耦、异步、削峰。 解耦 看这么个场景。A 系统发送数据到 BCD 三个系统,通过接口调用发送。 如果使用 MQ,那么 A 系统连续发送 3 条消息到 MQ 队列中,假如耗时 5ms,A 系统从接受一个请求到返回响应给用户,总时长是 3 + 5 = 8ms,对于用户而言,其实感觉上就是点个按钮,8ms 所以说,只要高峰期一过,A 系统就会快速将积压的消息给解决掉。 消息队列有什么优缺点 优点上面已经说了,就是在特殊场景下有其对应的好处,解耦、异步、削峰。 如何保证消息队列的高可用,可以点击这里查看。 系统复杂度提高 硬生生加个 MQ 进来,你怎么保证消息没有重复消费?怎么处理消息丢失的情况?怎么保证消息传递的顺序性?

    3.3K40编辑于 2021-12-08
  • 来自专栏芋道源码1024

    消息队列 MQ 专栏】消息队列之 ActiveMQ

    摘要: 原创出处 https://juejin.im/post/5ad46f34518825651d08265c 「预流」欢迎转载,保留摘要,谢谢! 消息传送模型 点对点模型(Point to Point)使用队列(Queue)作为消息通信载体,满足生产者与消费者模式,一条消息只能被一个消费者使用,未被消费的消息队列中保留直到被消费或超时。 Queue,队列,点对点模式下特定生产者向特定队列发送消息,消费者订阅特定队列接收消息并进行业务逻辑处理。 websocket,允许客户端通过 HTML5 中的 WebSocket 方式连接到消息服务器。 amqp,5.8版本开始支持。 mqtt、stomp,5.6版本开始支持。 接收到文本消息 队列监听器监听到了一条消息,两个主题监听器分别监听到了两条消息

    8.4K10发布于 2018-07-31
  • 来自专栏个人开发

    消息队列批量收发消息,请避开这 5 个坑!

    使用消息队列时,为了提高生产和消费的性能,有时会开启批量处理。 在生产端,生产者发送的消息先发送到一个消息列表,积累到一定的消息量之后再批量发送给 Broker,如下图: 在消费端,消费者拉取消息后先不立即处理,而是把消息转存到一个内存队列或数据库,由业务线程去处理 时延 在使用消息队列进行批量操作时,必须要考虑到时延问题。 虽然消息队列的一个重要作用是削峰填谷,但在一些场景下,对消息的实时性也有要求。 在消费端,消费者批量拉取一批消息后把消息暂存到一个内存临时队列,然后多线程去临时队列消费消息,如果服务宕机,临时队列中的消息会丢失。

    1.2K10编辑于 2023-11-30
  • 来自专栏芋道源码1024

    消息队列 MQ 专栏】消息队列之 Kafka

    消费消息采用 pull 模式 消息被处理的状态是在 consumer 端维护,而不是由 server 端维护,broker 无状态,consumer 自己保存 offset。 5. Partition Topic 物理上的分组,一个 Topic 可以分为多个 Partition ,每个 Partition 是一个有序的队列。 Partition 中的每条消息都会被分配一个有序的 id(offset) 4. Producer 消息和数据的生产者,可以理解为往 Kafka 发消息的客户端 5. topic 是必须的,因为需要发送消息给订阅了该topic 的 consumer group 。现在可以在命令行里输入一些信息,每一行会被作为一个消息。 ? 发送消息 5. #默认消息的最大持久化时间,24小时 message.max.byte=5242880 #消息保存的最大值5M default.replication.factor=2 #kafka 保存消息的副本数

    5.3K00发布于 2018-07-31
  • 来自专栏芋道源码1024

    消息队列 MQ 专栏】消息队列之 RocketMQ

    支持顺序消息 可以保证消息消费者按照消息发送的顺序对消息进行消费。顺序消息分为全局有序和局部有序,一般推荐使用局部有序,即生产者通过将某一类消息按顺序发送至同一个队列来实现。 它还存储与消息相关的元数据,包括用户组、消费进度偏移量、队列信息等。 消息队列 消息队列(Message Queue),主题被划分为一个或多个子主题,即消息队列。 一个 Topic 下可以设置多个消息队列,发送消息时执行该消息的 Topic ,RocketMQ 会轮询该 Topic 下的所有队列消息发出去。下图 Broker 内部消息情况: ? 顺序消费表示消息消费的顺序同生产者为每个消息队列发送的顺序一致,所以如果正在处理全局顺序是强制性的场景,需要确保使用的主题只有一个消息队列

    8.1K00发布于 2018-07-31
领券