高吞吐量 Arrow 原生驱动程序用于湖仓分析
手动记录批次以参考移动列数据,最小化 CPU 开销,将 Delta Lake 和 Apache Iceberg 连接到分析工具。DeltaForge 为 Windows 和其他桌面提供 ADBC 驱动程序,附带 Power BI 连接器和 Python、R 和 C 的语言绑定。其主要吸引力是低延迟、零复制传输和直接从对象存储访问表,旨在为查询大型湖仓表的数据工程师和 BI 分析师提供服务,而无需运行 Spark。
驱动程序提供原生 Arrow 的零拷贝传输,用于列式数据
DeltaForge ADBC 驱动程序通过引用将记录批次交给客户端应用程序,这消除了面向行的转换开销,并将数据保留在列式内存中。该驱动程序读取和写入 Delta Lake 和 Apache Iceberg 表格式,并将数据以 Arrow 记录批次的形式呈现给 Python、R 或 C 客户端。对于需要列式批次而不是行缓冲区的工作流,这在提取过程中产生更低的延迟和减少的 CPU 使用。
通过本地运行原生 SQL 引擎减少对外部集群的依赖
该驱动程序包含一个 SQL 引擎,绕过了对 JVM 或 Spark 依赖的需求,因此查询可以在本地硬件或现有虚拟机上运行,而不是在托管集群上。DeltaForge 宣称在特定工作负载下,其基准速度比标准 .NET ODBC 驱动程序快超过 13 倍,这支持组织希望避免为分析维护单独 Spark 集群的用例。
安装和 BI 集成直接,但假设技术设置
在 Windows 上,驱动程序作为签名的 MSI 提供,并通过 WinGet 可用,同时还为桌面提供捆绑的 Power BI 自定义连接器。对于系统管理员来说,安装是直接的,但将连接器集成到企业 BI 管道中需要配置对存储(S3、ADLS 或本地磁盘)的访问,并理解湖屋表布局。ADBC 标准绑定允许开发人员在凭据和端点到位后从代码调用驱动程序。
操作安全性和系统影响与高吞吐量分析需求一致
该驱动程序直接从对象存储读取表,并避免写入集群元数据,从而消除了对活动计算集群的依赖。由于它通过引用交付批次并避免 JVM 开销,与基于行的驱动程序相比,在大规模导出期间 CPU 和内存压力下降。对于需要回滚或快照安全的环境,这些保护必须在存储或表层进行管理,而不是由驱动程序本身管理。
最适合能够对湖仓存储运行查询的团队;建议在代表性数据上进行测试
DeltaForge ADBC 驱动程序是数据工程师和 BI 团队的务实选择,他们需要对 Delta Lake 或 Iceberg 表进行高吞吐量访问,而无需操作 Spark 集群。预计数据传输更快,本地 CPU 使用率更低,尽管集成它需要了解您的存储布局和访问控制。在将其部署到生产环境之前,请在数据集的副本上测试查询以验证权限和资源使用情况。推荐。