首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏运维小路

    Kafak-异构数据库迁移(MYSQL迁移PG)

    中间件,我给它的定义就是为了实现某系业务功能依赖的软件,包括如下部分: Web服务器 代理服务器 ZooKeeper Kafka(本章节) 在我以前的工作中遇到过多次数据库迁移,如果数据库是一样的,其实相对都是比较简单的 因为基本上都可用利用数据库自身的同步原理就可以实现,但是现实中还有需求就是异构数据库的迁移。就好比Oracle到MYSQL,当然这里我为了简单,我这里用了简单的MYSQL迁移到PG。

    38600编辑于 2025-06-11
  • 来自专栏韩锋频道

    异构数据库迁移的曲折之路

    迁移规划 在进行迁移之初,首先要对迁移工作做个整体规划,制定好对应的原则方针。例如明确迁移范围、迁移方式、是否可停机、窗口期等等。这些信息是作为后续迁移的指导性原则,迁移方案的制定很多需依靠这一规划。 1).迁移方案 改造工作完成后,就进入了迁移数据环节。在迁移之初,最先确定的是迁移方案,这主要取决于对源目标端的数据库、物理环境、迁移窗口、是否并行、是否回退等诸多因素。 并在迁移之后,记录一个位点。 4).增量迁移 增量迁移,从全量迁移记录位点开始。根据迁移技术本身,可采取停机或不停机的方式。 这里存在几个难点,一是海量数据如何快速比对,二是异构条件下数据如何比对,三是两侧数据同步变化时如何比对?目前已经有些产品能够支持较为完整的数据校验功能。个人也是比较建议,在数据迁移后进行对比。 3).功能测试 在正式迁移前,针对迁移后的全量环境做完成的业务功能测试是非常必要的。需要对迁移后的结果有个全局的掌握。一方面可以验证整个迁移过程是否OK,另一方面也可为后续正式迁移提供基线判断标准。

    1.6K30发布于 2021-08-13
  • 来自专栏QGS星球

    springboot+Mybatis-Plus实现异构数据迁移

    实体类、mapper接口、mapper映射文件、Service接口、service实现类

    1.1K30编辑于 2023-10-05
  • Oracle迁移YashanDB实录:初试YMP异构数据库迁移平台

    本文作者通过亲自使用YMP工具完成了从Oracle向YashanDB的异构数据库迁移流程,系统性记录了YMP部署、环境配置、任务执行全过程,内容详实,干货满满。一、为什么选择YashanDB? 二、YMP迁移平台简介2.1 平台定位YMP(YashanDB Migration Platform)是YashanDB推出的数据库迁移平台,专为支持 Oracle、MySQL、达梦等数据库平滑迁移至 2.2 核心能力速览:迁移评估:评估对象兼容性、迁移复杂度,生成分析报告元数据迁移:一键生成 DDL,支持 PL/SQL 自动转换数据迁移:支持全量、分批、并行、多任务迁移调度数据校验:支持抽样/统计/ 5.2 创建迁移任务点击“新建任务”,选择需要迁移的 schema、对象范围,启动兼容性评估流程。 期待优化方向增加实时迁移/增量同步能力;引入任务回滚与反向校验机制;提供更丰富的迁移模板与评估规则配置。

    36600编辑于 2025-04-21
  • 来自专栏YashanDB知识库

    迁移方案详解 | 使用YMP从异构数据库迁移到YashanDB

    如何从异构的Oracle、MySQL等数据库将存量的数据迁移至国产数据库,是企业技术升级和国产化战略中不可或缺的一环。 02数据库迁移的要点在迁移链路中,我们通常关注以下五大维度:维度一:迁移评估首先需要考虑迁移前对源端库和目标库的兼容性评估,这是为了判断数据及元数据能否迁移,以及二者兼容性如何?有多少对象是不兼容的。 对于异构数据库之间的迁移,数据库对象兼容性是一个非常重要的问题。即使目标库对源端库有较好的兼容性,但是因为架构的不同,在一些数据对象、数据类型等方面难免存在差异。 常用的迁移手段YashanDB在进行Oracle、MySQL等异构数据库迁移到YashanDB时,主要采用以下两种常用迁移手段:01使用YashanDB自带的工具,如yasldr先采用源库导出工具导出成 同时YMP提供可视化服务,用户只需通过简单的界面操作,即可完成从评估到迁移到校验整个流程的执行与监控,轻松实现低门槛、低成本、高效率的异构数据库迁移实施。

    80810编辑于 2025-02-18
  • 来自专栏YashanDB

    迁移方案详解 | 使用YMP从异构数据库迁移到YashanDB

    如何从异构的Oracle、MySQL等数据库将存量的数据迁移至国产数据库,是企业技术升级和国产化战略中不可或缺的一环。 数据库迁移的要点 在迁移链路中,我们通常关注以下五大维度: 维度一:迁移评估 首先需要考虑迁移前对源端库和目标库的兼容性评估,这是为了判断数据及元数据能否迁移,以及二者兼容性如何? 对于异构数据库之间的迁移,数据库对象兼容性是一个非常重要的问题。即使目标库对源端库有较好的兼容性,但是因为架构的不同,在一些数据对象、数据类型等方面难免存在差异。 二、常用的迁移手段 YashanDB在进行Oracle、MySQL等异构数据库迁移到YashanDB时,主要采用以下两种常用迁移手段: 1. 同时YMP提供可视化服务,用户只需通过简单的界面操作,即可完成从评估到迁移到校验整个流程的执行与监控,轻松实现低门槛、低成本、高效率的异构数据库迁移实施。

    41410编辑于 2025-01-10
  • 崖山异构数据库迁移利器YMP初体验-Oracle迁移YashanDB

    本文主要介绍如何通过崖山YMP异构迁移工具将Oracle数据库迁移到YashanDB数据库。 二、YMP简介2.1概述崖山迁移平台(YashanDB Migration Platform,YMP)是YashanDB提供的数据库迁移产品,支持异构RDBMS与YashanDB之间进行迁移评估、离线迁移 YMP提供可视化服务,用户只需通过简单的界面操作,即可完成从评估到迁移整个流程的执行与监控,实现低门槛、低成本、高效率的异构数据库迁移。 2.2产品功能2.2.1 迁移评估提前自动评估元数据迁移代价及可行性预估数据迁移时间、评估风险及可行性在线/离线评估,统计并生成评估报告一站式完成数据库迁移方案设计,支撑自动化迁移2.2.2 元数据迁移自动生成 DDL语法PL/SQL一键自动转换支持源库自动抽取或手工导入提升迁移效率,降低人力投入成本2.2.3 数据迁移异构数据库元数据自动迁移,全量/增量支持传统离线方式,在线直连不停机方式支持元数据兼容映射全库

    1.1K10编辑于 2025-02-20
  • 来自专栏数据和云

    异构迁移Oracle的前世今生——HuaweiCloud+UGO+DRS

    举个例子,Oracle的PL/SQL功能,随着时间的积累有的客户PL/SQL的代码量达到百万甚至千万级别,这个量级异构迁移的代码改造量所花费的人力物力是很多客户无法接受的,仅这一个功能就使许多想去“O” 二、什么是UGO,DRS,GaussDB 数据库和应用迁移 UGO(Database and Application Migration UGO,简称UGO)是专注于异构数据库结构迁移和应用SQL转换的专业云服务 三、迁移测试 本次测试模拟生产环境中的Oracle数据库到华为云GaussDB(for openGauss)的异构迁移,使用UGO来迁移对象,使用DRS来迁移并实时同步数据,并对迁移过程及数据进行评估和校验 四、测试总结 传统的Oracle异构迁移需要大量的人工参与调研评估、测试验证,项目实施的周期也非常长,整个人力成本平均大约在50万左右。 在目前“去O”+上云的趋势下,借助华为云的UGO和DRS工具能够快速迁移到华为云GaussDB(for openGauss)以及RDS等异构数据库,工具完全覆盖了整个异构对象迁移、数据同步、数据校验整个项目周期

    1.2K60编辑于 2022-01-05
  • 来自专栏小麦苗的DB宝专栏

    Oracle异构平台迁移利器之XTTS(使用rman方式)

    、xtt.properties参数 1.3.3、文件介绍 1.4、参考文档 1.5、迁移过程导图 二、XTTS迁移示例 2.1、数据库检查 2.1.1、查询平台字节序和字符集 2.2、全量迁移 2.2.1、源端和目标端都需要配置XTTS脚本 2.2.2、源端调用 xttdriver.pl -p做迁移准备 2.2.3、将源端的数据文件副本和rmanconvert.cmd ,它是从Oracle 8i开始就引入的一种基于表空间传输的物理迁移方法,命名为TTS,经历各个版本的不断演进,从11gR2开始,在相对停机时间要求日益减少的情况,为了应对越来越大的数据量跨平台迁移,Oracle -G options) DBMS_FILE_TRANSFER 包是 Oracle 提供的一个用于复制二进制数据库文件或在数据库之间传输二进制文件的程序包,在 XTTS 迁移中,利用不同的参数进行数据文件传输转换完成迁移 172.17.0.3 172.17.0.4 字符集 AMERICAN_CHINA.AL32UTF8 AMERICAN_CHINA.AL32UTF8 归档模式 归档模式 归档模式 注:虽然我这里使用的同构平台,但是异构平台下的步骤是一样的

    6.5K30编辑于 2022-11-07
  • 来自专栏Tapdata

    异构数据迁移难?Tapdata Cloud 类型映射来帮忙

    异构数据库之间做迁移,类型转换是一大难题,也是导致迁移失败的重要原因,Tapdata Cloud 在1.0.6 版本上线类型映射功能,系统推演 + 人工调整,进一步保证迁移的成功率。 01. 小结 Tapdata Cloud 是一款异构数据库实时同步云服务,支持多样化的数据源、“零”代码配置操作、强大的数据处理能力,让用户轻松实现跨系统跨类型的数据同步和交换,释放数据准备阶段的精力,更专注数据业务的开发与创新 在同步任务设置过程,通过类型映射设置,用户可以在设置同步范围,选择将源端哪些表同步到目标端,还可以设置源表到目标表的字段名、字段类型和字段精度等信息,提高异构数据迁移成功率,并在 Tapdata Cloud Tapdata Cloud cloud.tapdata.net Tapdata Cloud 是国内首家异构数据库实时同步云平台,目前支持 Oracle、MySQL、PG、SQL Server、MongoDB

    95841编辑于 2022-09-02
  • 来自专栏金融级分布式数据库TDSQL

    银行核心海量数据无损迁移:TDSQL数据库多源异构迁移方案

    本文将带来直播回顾第五篇《银行核心海量数据无损迁移:TDSQL数据库多源异构迁移方案》。 视频内容 关于TDSQL异构数据同步与迁移能力的建设以及应用方面的整个内容分四个部分: l 一是异构数据库方面包括数据分发迁移同步的背景——我们为什么要发展这一块的能力以及现在这部分服务的基本架构 当然,除了支持数据库迁移,多源异构迁移方案也支撑数据汇总、分发等业务场景,这也是TDSQL具备完善的产品服务体系的体现。 1 TDSQL异构数据迁移分发的背景及架构方案 1.1 TDSQL异构数据迁移方案的场景 image.png TDSQL作为一个金融级数据库,面对的更多是金融级场景以及金融机构客户,金融机构往往有一些比较特殊的需求 image.png 三是异构的数据分发和迁移

    3.4K31发布于 2020-07-02
  • 来自专栏小麦苗的DB宝专栏

    【DB宝52】Oracle异构平台迁移利器之XTTS(使用rman方式)

    参数 1.3.3、文件介绍 1.4、参考文档 1.5、迁移过程导图 二、XTTS迁移示例 2.1、数据库检查 2.1.1、查询平台字节序和字符集 2.1.2、获取需要迁移的业务表空间和业务用户 2.2、全量迁移 2.2.1、源端和目标端都需要配置XTTS脚本 2.2.2、源端调用 xttdriver.pl -p做迁移准备 2.2.3、将源端的数据文件副本和rmanconvert.cmd ,它是从Oracle 8i开始就引入的一种基于表空间传输的物理迁移方法,命名为TTS,经历各个版本的不断演进,从11gR2开始,在相对停机时间要求日益减少的情况,为了应对越来越大的数据量跨平台迁移,Oracle -G options) DBMS_FILE_TRANSFER 包是 Oracle 提供的一个用于复制二进制数据库文件或在数据库之间传输二进制文件的程序包,在 XTTS 迁移中,利用不同的参数进行数据文件传输转换完成迁移 172.17.0.3 172.17.0.4 字符集 AMERICAN_CHINA.AL32UTF8 AMERICAN_CHINA.AL32UTF8 归档模式 归档模式 归档模式 注:虽然我这里使用的同构平台,但是异构平台下的步骤是一样的

    3K40发布于 2021-05-27
  • 来自专栏数据和云

    Oracle数据库迁移异构传输表空间TTS HP-UX迁移至Redhat Linux 7.7

    墨墨导读:本文来自墨天轮用户“你好我是李白”的投稿,记录一个Oracle数据库迁移过程 :异构传输表空间TTS HP-UX迁移至Redhat Linux 7.7。 墨天轮主页:https://www.modb.pro/u/3997 传输表空间 异构跨平台传输表空间分为两种 使用MOS提供rman_xttconvert工具包进行在线迁移,即通常所说xtts。 工具包进行在线迁移,本文则使用第二种方式迁移。 环境介绍 1.1 版本介绍 源 端:HP-UX Oracle 11.2.0.3 ASM存储 数据量30TB 目标端:RHEL 7.7 Oracle 11.2.0.3 NAS存储 1.2 迁移方式 由于本次迁移为历史库迁移 ,且数据库未开启归档模式,所以选择较为便捷第二种方式进行迁移

    3.7K10发布于 2021-03-09
  • 来自专栏QGS星球

    手搭手Mybatis-Plus多数据源异构数据迁移案例

    手搭手Mybatis-Plus多数据源异构数据迁移案例(oracle迁移至dm8,mysql迁移至dm8) 环境介绍技术栈springboot+mybatis-plus+druid+baomidou

    73831编辑于 2023-10-04
  • 来自专栏「3306 Pai」社区

    「3306π」沪江:从 SQL Server 到 MySQL (一):异构数据库迁移

    需要解决的问题 从 SQL Server 迁移到 MySQL,核心是完成异构数据库的迁移。 基于两种数据迁移方案,我们需要解决以下问题: 两个数据库的数据结构是否可以一一对应?出现不一致如何处理? Percona 提供的备份工具 异构数据库迁移工具: Database migration and synchronization tools: :国外一家提供数据库迁移解决方案的公司 DataX : - Kettle :国外的一款 GUI ETL 工具 Ispirer :提供应用程序、数据库异构迁移方案的公司 DB2DB 数据库转换工具 : :一个国产的商业数据库迁移软件 Navicat Premium :经典的数据库管理工具,带数据迁移功能 DBImport :个人维护的迁移工具,非常简陋,需要付费 看上去异构数据库迁移工具和方案很多,但是经过我们调研,其中不少是为老派的传统行业服务的。 由于异构数据库迁移,真正能够进入我们选型的只有 DataX / yugong / DB2DB / MySQL Workbench。

    2.5K30发布于 2019-06-15
  • 来自专栏腾讯云数据库(TencentDB)

    TBase如何接入kafka进行数据库异构迁移、或数据消费

    [TBase] 同时TBase支持异构数据的同步和迁移,在对应的运维管理平台OSS系统中留有对应的KAFKA接口,我们可以使用kafka来做其他数据库到TBase或反向TBase到其他数据的数据迁移或者同步工作 或者借助应用程序将其处理为纯文本的数据,进而可以进行跨平台或版本的异构数据迁移的同步或迁移操作。 可以使用kafka 将异构平台数据迁到TBase中或反向迁移等,同时也可将TBase数据消费使用,如果异构平台如Oracle,mysql,postgresql,等数据如果有需求迁到TBase中的话,也可以借助腾讯云的 DTS中的DB bridge工具进行异构平台数据迁移评估,兼容性语句语法改造,全量/增量同步等功能的一个迁移方案。

    2K10发布于 2020-11-27
  • 来自专栏秋枫学习笔记

    NIPS22「牛津+剑桥」利用迁移学习在异构空间中估计干预效果

    在本文中,通过引入模块来解决这个问题,这些模块使用表征学习来处理异构特征空间,以及具有共享和私有层的灵活多任务架构来跨域在潜在结果函数之间传递信息。 尽管如此,本文隐含地假设跨域的这些条件分布之间存在共享结构,以实现迁移。 为CATE迁移学习器构建模块 在本节中,提出了为CATE学习器提供灵活迁移方法的模块。 有三方面挑战, (1)处理源域和目标域之间的异构特征空间 (2)在跨域间共享信息 (3)在单个域内共享信息 3.1 处理源域和目标域的异构特征空间 考虑以下源域和目标域协变量 X^R=(X^s,X^{p_R 异构迁移因果效应学习器 基于上面提出的模块,现在为标准meta learner和基于神经网络(NN)的CATE估计器提出了一种迁移学习替代方案,称之为异构迁移因果效应(HTCE)学习器。

    51420编辑于 2023-01-30
  • 担心异构数据库迁移踩 “坑”?听听大咖们怎么说

    在技术升级和国产化战略的双重推动下,如何将来自 Oracle、MySQL 等异构数据库的数据无缝迁移至国产数据库,已成为企业持续发展的关键一环。 所以从 Oracle 迁移至 YashanDB 会非常方便。这样可以最大程度上降低因为异构数据库的迁移带来的应用行为的不一致,导致业务失败。 同时,对于异构数据库的迁移,应根据我们应用对数据的一致性要求,建议尽量对应用做全面的功能测试、性能测试以及回归测试等,来保证我们应用系统不出问题。 这就是我们崖山目前在保障异构迁移过程中数据类型的一致性,以及精度数据丢失等问题上面做的一些工作。Q3 对于异构迁移源数据库和目标库兼容性的问题,有什么需要注意的地方,两位老师有什么看法和经验吗? 以上是我的一些直观感受,我也是通过之前做的一些同构和异构迁移,发现的这些常见问题。

    23310编辑于 2025-02-21
  • 来自专栏腾讯云数据库(TencentDB)

    腾讯云发布DBbridge,打造异构数据库一站式迁移平台

    今天,腾讯云企业级数据库迁移产品DBbridge正式发布啦!DBbridge通过提供一站式数据迁移平台以及专家服务,帮助企业实现异构数据库之间数据的迁移和同步。 但是,从传统数据库往云端分布式数据库的迁移并非易事,不仅成本高、周期长、工作量大,还面临源库迁移到目标数据库时对象兼容程度的问题。 DBbridge通过迁移平台和专家服务的方式,打造了一套从评估、改造、迁移到校验过程的标准化异构数据库迁移流程,并可针对不同客户场景定义个性化迁移规则,让政企客户可以通过迁移模板来定制不同业务数据库迁移方案 平台化的操作模式、专业化的迁移技术以及标准化的迁移流程,让DBbridge对于企业而言更简单易用。 ? 对于接下来的发展,腾讯云数据库副总经理王义成表示:“DBbridge将以异构数据库迁移为出发点,未来会作为企业内部数据库数据传输统一平台,拓展到数据同步、数据汇聚等业务场景,助力客户搭建出符合业务需求的数据库架构

    1.8K20发布于 2020-06-19
  • 来自专栏小麦苗的DB宝专栏

    【DB宝53】Oracle异构平台迁移利器之XTTS(使用dbms_file_transfer方式)

    姊妹篇文章:【DB宝52】Oracle异构平台迁移利器之XTTS(使用rman方式) 目录 ? 参数 1.3.3、文件介绍 1.4、参考文档 1.5、迁移过程导图 二、XTTS迁移示例 2.1、数据库检查 2.1.1、查询平台字节序和字符集 2.1.2、获取需要迁移的业务表空间和业务用户 ,它是从Oracle 8i开始就引入的一种基于表空间传输的物理迁移方法,命名为TTS,经历各个版本的不断演进,从11gR2开始,在相对停机时间要求日益减少的情况,为了应对越来越大的数据量跨平台迁移,Oracle -G options) DBMS_FILE_TRANSFER 包是 Oracle 提供的一个用于复制二进制数据库文件或在数据库之间传输二进制文件的程序包,在 XTTS 迁移中,利用不同的参数进行数据文件传输转换完成迁移 172.17.0.3 172.17.0.4 字符集 AMERICAN_CHINA.AL32UTF8 AMERICAN_CHINA.AL32UTF8 归档模式 归档模式 归档模式 注:虽然我这里使用的同构平台,但是异构平台下的步骤是一样的

    2.3K50发布于 2021-05-27
领券