简介:本资源是一份面向1–3年经验研发人员的Kettle(Pentaho Data Integration)入门级教学PPT,聚焦ETL核心流程与数据同步实践,帮助开发者快速掌握开源ETL工具的安装、核心概念及工程化落地要点。内容涵盖ETL原理、Kettle 9.2版本实操演示、目录结构解析、转换(Transformation)与作业(Job)机制、数据库连接配置、数据流控制(Hop/Step/Row)、常见调优策略及工具局限性分析,特别强调MySQL/Oracle等主流数据库的协同调试场景。资源为单个859KB的pptx文件,结构清晰、图文并茂,含26页精炼讲解,覆盖从环境部署到数据行元数据、并发模型、Kafka/Avro/Parquet等新特性扩展要点。目前已有1465人学习下载,适合具备数据库开发基础、希望系统构建ETL能力并应用于实际项目的数据工程师与后端研发人员。
1. ETL之kettle基础:26页PPT讲透PDI9.2的安装、转换逻辑与数据同步落地细节
你有没有遇到过这种场景:业务系统每天凌晨导出几十个CSV,DBA手动改SQL脚本塞进MySQL,跑完还得人工核对字段数量、空值比例、时间戳时区——一出错就得回滚重跑,凌晨三点还在查pan.log里那行“Error connecting to database”。这不是运维事故,是ETL设计没踩准地基。这份26页PPT不是泛泛而谈“什么是ETL”,它用PDI9.2真实界面截图+目录结构逐层拆解,把Kettle从绿色解压包启动那一刻起,到跑通第一个跨库同步作业的完整链路全摊开:spoon.sh怎么绕过JDK版本报错、pan.sh执行失败时该盯哪三行日志、为什么“CSV输入→过滤→MySQL输出”看似简单却总丢最后17行数据。它专为工作1–3年的研发人设计——不讲Hadoop生态演进史,只告诉你MySQL连不上时先改/data-integration/simple-jndi/jdbc.properties还是先删~/.kettle/kettle.pwd;不堆砌“高可用”“实时流”概念,但会标红写出Carte集群模式下/carte/config.xml里必须注释掉的SSL配置项。如果你正被定时任务卡在数据一致性上,或者刚接手遗留ETL脚本却看不懂.ktr文件里那个灰色小图标代表什么,这份PPT就是你的第一份可执行说明书。
2. PDI9.2环境搭建与核心目录解剖:从解压到Spoon界面启动的七步实操
2.1 下载验证与JDK兼容性确认:为什么PDI9.2必须用JDK11而非JDK17
PDI9.2官方明确要求JDK11(LTS),但很多开发者直接用系统默认JDK17启动spoon.sh,结果界面卡死在加载splash屏。这不是内存不足,而是SWT图形库与JDK17的模块化机制冲突。正确做法是:
# 先确认JDK11路径(以Linux为例) $ /usr/lib/jvm/java-11-openjdk-amd64/bin/java -version openjdk version "11.0.22" 2024-01-16 # 修改spoon.sh头部JAVA_HOME指向JDK11 $ sed -i 's/^# export JAVA_HOME=.*$/export JAVA_HOME=\/usr\/lib\/jvm\/java-11-openjdk-amd64/' spoon.sh # 启动时强制指定JVM参数(关键!避免OOM) $ ./spoon.sh -Xms1024m -Xmx2048m -XX:MaxMetaspaceSize=512m提示:Windows用户需编辑
spoon.bat,将set JAVA_HOME=后路径改为JDK11安装目录,并在%JAVA_HOME%\bin\java.exe前加-Dfile.encoding=UTF-8参数,否则中文字段名会显示为??。
2.2 目录结构功能映射表:每个文件夹对应什么生产问题
PDI解压后目录看似杂乱,实则每层都直指具体运维痛点。以下表格按故障发生频率排序,标注各目录在真实排错中的作用: