588 热度

ElasticSearch基本概念和简单CRUD

Lucene是一种高性能、可伸缩的信息搜索(IR)库,在2000年开源,最初由鼎鼎大名的Doug Cutting开发,是基于Java实现的高性能的开源项目。Lucene采用了基于倒排表的设计原理,可以非常高效地实现文本查找,在底层采用了分段的存储模式,使它在读写时几乎完全避免了锁的出现,大大提升了读写性能。

收录时间: 2022-05-12
分类: Elasticsearch
贡献者: Rector
736 热度

Elasitcsearch CPU 使用率突然飙升,怎么办?

本系列文章介绍如何修复 Elasticsearch 集群的常见错误和问题。这是系列文章的第二篇,主要探讨:Elasitcsearch CPU 使用率突然飙升,怎么办?

收录时间: 2022-02-09
分类: Elasticsearch
贡献者: Rector
767 热度

Elasticsearch 磁盘使用率超过警戒水位线,怎么办?

本系列文章介绍如何修复 Elasticsearch 集群的常见错误和问题。这是系列文章的第一篇,主要探讨:Elasticsearch 磁盘使用率超过警戒水位线,怎么办?

收录时间: 2022-02-09
分类: Elasticsearch
贡献者: Rector
1080 热度

干货 | Elasticsearch 多种跨机房灾备方案对比与实战解读

Elasticsearch 集群的高可用,保证服务的连续性是企业最关注的需求。通常当企业达到一定规模时,不管是在云上还是线下都会有多个机房做异地灾备,确保在某个机房不可用时,还能持续对外提供业务。本文将会介绍几种 Elasticsearch 常见的灾备方案,同时提供了 Demo 案例方便大家动手体验。2 方案概要方案定期快照跨机房部署集群应用双写借助消息队列实现双写CCR 跨集群复制极限网关描述定期将索引备份到外部存储,例如 S3,HDFS。备份的数据可以在备集群中恢复。一个集群中的节点分布在不同的机房。应用程序同时将数据写入两个集群。应用程序先将数据写入消息队列,然后由下游的消费者消...

收录时间: 2022-01-05
分类: Elasticsearch
贡献者: Rector
1032 热度

记一次引入Elasticsearch的系统架构实战

我曾经面试安踏的技术岗,当时面试官问了我一个问题:如果你想使用某个新技术但是领导不愿意,你怎么办?对于该问题我相信大家就算没有面试被问到过,现实工作中同事之间的合作也会遇到。 因此从我的角度重新去回答这个问题,有以下几点:1.师出有名,在软件工程里是针对问题场景提供解决方案的,如果脱离的实际问题(需求)去做技术选型,无疑是耍流氓。大家可以回顾身边的“架构师”、“技术Leader”是不是拍拍脑袋做决定,问他们为什么这么做,可能连个冠冕堂皇的理由都给不出。2.信任度,只有基于上面的条件,你才有理由建议引入新技术。领导愿不愿意引入新技术有很多原因:领导不了解这技术、领导偏保守、领导不是做技术的等...

收录时间: 2021-12-30
分类: Elasticsearch
贡献者: Rector
1191 热度

Elasticsearch写入数据的过程是什么样的?以及是如何快速更新索引数据的?

最近面试过程中遇到问Elasticsearch的问题不少,这次总结一下,然后顺便也了解一下Elasticsearch内部是一个什么样的结构,毕竟总不能就只了解个倒排索引吧。本文标题就是我遇到过的两个问题,所以此次基本上只是围绕着这两个问题来总结。

收录时间: 2021-11-23
分类: Elasticsearch
贡献者: Rector
AD 友情赞助
1021 热度

Elasticsearch 滞后8个小时等时区问题,一网打尽!

实战问题如下都是实战环节遇到的问题:logstash谁解决过时区问题,mysql是东八区shanghai 但是这玩意读完存到es就少了8小时?目前索引会比真正时间晚8小时,导致8点前的日志写到昨天索引里,大佬们有招吗?问一下 logstash输出日志到本地文件中,按照小时生成索引,但是他这边的时区是utc,生成的时间和北京时间少8小时,这一块大佬们是咋操作的?......从浏览器kibana那里看timestamp时间戳变成了utc的时区?上面的问题都涉及到时区问题,涉及到数据的同步(logstash)、写入、检索(elasticsearch)、可视化(kibana)的几个环节。2、时区问...

收录时间: 2021-08-10
分类: Elasticsearch
贡献者: Rector
1685 热度

Elasticsearch 7.X data stream 深入详解

直接从一个新概念的认知过程说下 elasticsearch data stream。记得第一次听到 data stream 的时候,还是去年下半年在公交大巴车上早 8 点听魏彬老师的直播,后来就一直没用。等使用的时候,去翻看文档和资料前,从认知的角度,不免会有如下的疑问:没有 data stream 的时候,如何管理时序型数据?什么是 data stream?data stream 的特点有哪些?为什么要有 data stream?data stream 能做什么?data stream 应用场景?data stream 和 索引 index 的关系?data stream 和 索引生命周期管...

收录时间: 2021-07-26
分类: Elasticsearch
贡献者: Rector
979 热度

Docker-compose搭建ELK环境并同步MS SQL Server数据

本文作为学习记录,供大家参考:一次使用阿里云(Aliyun)1核2G centos7.5 云主机搭建Docker下的ELK环境,并导入MS SQL Server的商品数据以供Kibana展示的配置过程。关于Docker配置,本文直接使用开源项目 docker-elk(该项目维护了一个 Docker Compose 版的 Elastic Stack), 在其上做简单修改。

收录时间: 2021-06-11
分类: Elasticsearch
贡献者: Rector
1070 热度

干货 | Elasticsearch 索引生命周期管理 ILM 实战指南

什么是索引生命周期?关于人生,有人这么说:“人,生来一个人,死去一个人,所以,人生就是一个人生老病死的简称。”在基于日志、指标、实时时间序列的大型系统中,集群的索引也具备类似上图中相通的属性,一个索引自创建之后,不可能无限期的存在下去,从索引产生到索引“消亡”,也会经历:“生、老、病、死”的阶段。我们把索引的“生、老、病、死”的全过程类比称为索引的生命周期。什么是索引生命周期管理?由于自然规律,人会“不可逆转”的由小长到大,由大长到老,且理论上年龄一般不会超过 150 岁(吉尼斯世界纪录:122岁零164天)。索引不是人,理论上:一旦创建了索引,它可以一直存活下去(假定硬件条件允许...

收录时间: 2021-05-31
分类: Elasticsearch
贡献者: Rector
1361 热度

如何设计一个高性能 Elasticsearch mapping

在关系型数据库设计当中,表的设计尤其重要,然而关系型数据库更关注的表与表之间的关系,以及表的划分是否合理,而 Elasticsearch 中却更加关注字段类型的设计,一个好的字段类型设计可以更好的利用 Elasticsearch 的搜索分析特性。

收录时间: 2021-05-27
分类: Elasticsearch
贡献者: Rector
3513 热度

一文看懂 ClickHouse vs Elasticsearch:谁更胜一筹?

今天很多用户在实际的业务场景中,常常面对ClickHouse和Elasticsearch技术选型的难题。用户对ClickHouse和Elasticsearch的内核知识了解不足,往往只能通过性能测试的手段来进行选型。本文的主旨在于通过彻底剖析ClickHouse和Elasticsearch的内核架构,从原理上讲明白两者的优劣之处,同时会附上一份覆盖多场景的测试报告给读者作为参考。

收录时间: 2021-04-29
分类: Elasticsearch
贡献者: Rector
1208 热度

【合集】万字长文带你重温Elasticsearch ,这下完全懂了!

由于近期在公司内部做了一次 Elasticsearch 的分享,所以本篇主要是做一个总结,希望通过这篇文章能让读者大致了解 Elasticsearch 是做什么的以及它的使用和基本原理。

收录时间: 2021-04-23
分类: Elasticsearch
贡献者: Rector
1085 热度

[.NET/.NET Core]使用NEST或者Elasticsearch.Net如何检查Elasticsearch 7及以上版本中是否存在指定的索引名称呢?

如题,在C#/.NET/.NET 5/.NET Core的应用程序编程开发中,正在使用NEST/Elasticsearch.Net访问Elasticsearch 7.x或者以上的版本。现需要检测Elasticsearch数据库中是否存在某个指定的索引名,应该如何实现呢?

收录时间: 2021-04-01
分类: Elasticsearch
贡献者: Rector
1847 热度

ElasticSearch实战系列十: ElasticSearch冷热分离架构

冷热分离是目前ES非常火的一个架构,它充分的利用的集群机器的优劣来实现资源的调度分配。ES集群的索引写入及查询速度主要依赖于磁盘的IO速度,冷热数据分离的关键点为使用固态磁盘存储数据。若全部使用固态,成本过高,且存放冷数据较为浪费,因而使用普通机械磁盘与固态磁盘混搭,可做到资源充分利用,性能大幅提升的目标。因此我们可以将实时数据(5天内)存储到热节点中,历史数据(5天前)的存储到冷节点中,并且可以利用ES自身的特性,根据时间将热节点的数据迁移到冷节点中,这里因为我们是按天建立索引库,因此数据迁移会更加的方便。

收录时间: 2021-03-31
分类: Elasticsearch
贡献者: Rector
AD 友情赞助
1172 热度

What’s new in Kibana 7.12: Manage long-running searches in the background

Version 7.12 of Kibana is available today and with it comes new capabilities designed to help you uncover insights and drive action with your data in Elasticsearch. Highlights include

收录时间: 2021-03-25
分类: Elasticsearch
贡献者: Rector
1176 热度

What’s new in Elastic Security 7.12: Leave threats nowhere to hide

Gain the upper hand on cyber threats with Elastic Security 7.12. The release arms practitioners with analyst-driven correlation, behavioral ransomware prevention, and more. Analyst-driven correlation enables practitioners to identify attack progression and reduce false positives, applying sequence-based analysis across all data, no matter the source. It is available in the Elastic Security investigation workspace, streamlining hunting, investigation, and other workflows. Behavioral ransomware prevention, new in 7.12, protects Windows systems. It performs advanced analysis of host process data, making it effective against an array of ransomware families. Ransomware prevention is available on Elastic Agent in just a click.

收录时间: 2021-03-25
分类: Elasticsearch
贡献者: Rector
1380 热度

Elastic Observability 7.12: APM correlations and native OpenTelemetry support

Version 7.12 of Elastic Observability is here! Speed up root cause analysis with correlations in Elastic APM. Monitor low-power devices with ease with ARM support in Beats and Agent. Simplify ingest architectures with native OpenTelemetry support — now for traces and metrics — in Elastic Observability. Lower your total cost of ownership with autoscaling in Elastic Cloud and searchable snapshots in the frozen tier. These are only a few of the things you can look forward to enjoying in 7.12.

收录时间: 2021-03-25
分类: Elasticsearch
贡献者: Rector
1289 热度

What’s new in Elastic Enterprise Search 7.12: Search more, spend less

We’re thrilled to announce the release of Elastic Enterprise Search 7.12 — delivering more scalability and performance enhancements with the introduction of cloud autoscaling and greater storage efficiency. Plus, the recently announced Elastic web crawler adds additional support for web standards.

收录时间: 2021-03-25
分类: Elasticsearch
贡献者: Rector
2300 热度

Elasticsearch.NET/NEST中文文档(教程)

这是笔者从Elasticsearch官方提供的Elasticsearch.Net和NEST两个客户端文档中翻译的中文文档,本文档Elasticsearch版本为7.12.0。教程目录:Elasticsearch.Net/NEST客户端简介和安装;Elasticsearch .NET客户端简介;装Elasticsearch的.NET客户端类库;Elasticsearch.Net/NEST客户端之API约定...

收录时间: 2021-03-25
分类: Elasticsearch
贡献者: Rector
AD 友情赞助