Contentsquare 使用微服务和 Apache Kafka 来发送通知

作者 | Rafal Gancarz 译者 | 平川 策划 | Tina

Contentsquare 平台的许多场景都需要通知功能。作为其微服务架构的一部分,该公司创建了一个跨多个服务的通用解决方案。在实现过程中,开发人员改进了可观察性,同时还克服了一些可扩展性挑战。

Contentsquare 的通知功能可以用于密码重置、API 配额超标告警等,并根据用户的喜好通过电子邮件、Slack 或 Microsoft Teams 发送。该公司选择循序渐进地推出与通知相关的功能,以便在需要时提高性能和可扩展性。

通知组件(来源:Contentsquare 工程博客)

Contentsquare 的平台使用了微服务架构,通知子系统由几个微服务组成。Notification Consumer 负责处理来自 Apache Kafka 主题的消息。Mailer Service 用于电子邮件通知发送,并使用 EJS 模板引擎根据预配置的模板呈现电子邮件内容。最后,Integration Service 负责 Slack 和 Microsoft Teams 通知,它将基于 Slack 的 Block Kit 或 Microsoft Teams Adaptive Cards 编写 JSON 消息体。Slack Service 和 Microsoft Teams Service(如下所示)分别负责向 Slack 或 Microsoft Teams API 发送通知消息。

用于向 Slack 和 Teams 发送通知的微服务(来源:Contentsquare 工程博客)

Contentsquare 软件工程师 Joseph-Emmanuel Banzio 分享了该团队在推出通知功能时的经验:

在此过程中,我们遇到了几个瓶颈,为此,我们扩展并增强了系统的可靠性。一个值得注意的挑战是,在创建 Notifications 主题之前,我们最初使用了单个 Kafka 主题进行微服务间通信。在我们发布实时告警测试版之前,这个功能一直运行良好。

除了使用专用的 Kafka 主题进行告警通知外,该团队还优化了通知存储,以免读取时出现高延迟。他们实现了一种数据保留机制,用来删除旧的通知记录。另一个需要调查的问题是,一些用户没有收到电子邮件。经过仔细研究,这是由于 SPF(Sender Policy Framework)配置错误引起的,安全团队已经解决了这个问题。

为了帮助解决电子邮件通知问题,该团队创建了一个专门的电子邮件可观察性解决方案。其中,它会定期检索第三方电子邮件服务收集的发送事件并存储在 Contentsquare 的平台中。这种方法提供了电子邮件通知流的端到端可见性。

在该功能上线的过程中,开发人员还致力于提高了平台的可观察性。他们创建了一个 Kibana 仪表板来监控和分析日志,一个 Grafana 仪表板来监控通知微服务使用的云资源。此外,该团队还扩展了对 Kafka 生产集群的监控,以确保资源利用率和 Consumer Group Lag 在可接受的范围之内。将来,该团队计划提升系统弹性,以防系统故障,并提高通知发送的及时性,实现近实时发送。

原文链接:

https://www.infoq.com/news/2023/10/contentsquare-notifications/

声明:本文为 InfoQ 翻译,未经许可禁止转载。

今日好文推荐可部署手机、适配国产芯……全新升级后的 ChatGLM3 真的有点东西:智谱 AI 选择继续开源!“这是一件关于云服务的大事儿!”英特尔 4400 万美元投资基础设施初创公司,硬刚公有云
头发丝 1/60 的精度,中国每 10 辆新能源汽车就有 6 辆用这家齿轮
语雀突发 P0 级事故!宕机 8 小时被网友怒喷,运维又背锅?

相关推荐

  • 2023 年 AI 与开源行业:今年第一篇盘点文章出炉了
  • 头脑正常的人绝不会创业!英伟达 CEO 黄仁勋:如果能够重来,宁愿放弃创办公司
  • 程序员篡改 ETC 余额,一年私吞 260 余万元;语雀公布故障原因及赔偿方案;各家财报发布,创始人们:就很难受|Q资讯
  • 知乎热帖:日常工作娱乐,感觉普通键盘就够用了,有没必要买个几百元的机械键盘,有点仪式感?
  • 图文结合简单易学的 npm 包的发布流程
  • 又一款优秀的开源Markdown编辑器,太秀了!
  • 网易员工自曝硕士7年才年薪百万,是不是很失败?
  • Llama2 官方入门指南 (中文版)
  • 我们该怎样纪念逝去的人?
  • 姚期智Hinton Bengio联名发文:18个月内AI规模将扩大100倍,得有人管管了
  • 【NLP】fastMatch: 大规模字符串精确匹配工具
  • 【Python】十大保姆级Python可视化绘制工具推荐~~
  • 【学术相关】带了不太聪明的研究生是一种什么体验?
  • 如何用 Nacos 构建服务网格生态
  • OLAP数仓入门:进阶篇
  • [开源]一个基于互联网技术架构实现的社区系统,支持一键源码部署
  • 读懂Redis源码,我总结了这7点心得
  • 多组学数据整合更精确,川大团队借助迁移学习揭示细胞异质性可用于改善数据整合
  • 幻觉降低30%!首个多模态大模型幻觉修正工作Woodpecker
  • 哈工大发布大模型思维链推理综述:200+文献全面解析大语言模型思维链推理最新进展