Softonic 评论

高吞吐量 Arrow 原生驱动程序用于湖仓分析

手动记录批次以参考移动列数据,最小化 CPU 开销,将 Delta Lake 和 Apache Iceberg 连接到分析工具。DeltaForge 为 Windows 和其他桌面提供 ADBC 驱动程序,附带 Power BI 连接器和 Python、R 和 C 的语言绑定。其主要吸引力是低延迟、零复制传输和直接从对象存储访问表,旨在为查询大型湖仓表的数据工程师和 BI 分析师提供服务,而无需运行 Spark。

驱动程序提供原生 Arrow 的零拷贝传输,用于列式数据

DeltaForge ADBC 驱动程序通过引用将记录批次交给客户端应用程序,这消除了面向行的转换开销,并将数据保留在列式内存中。该驱动程序读取和写入 Delta Lake 和 Apache Iceberg 表格式,并将数据以 Arrow 记录批次的形式呈现给 Python、R 或 C 客户端。对于需要列式批次而不是行缓冲区的工作流,这在提取过程中产生更低的延迟和减少的 CPU 使用。

通过本地运行原生 SQL 引擎减少对外部集群的依赖

该驱动程序包含一个 SQL 引擎,绕过了对 JVM 或 Spark 依赖的需求,因此查询可以在本地硬件或现有虚拟机上运行,而不是在托管集群上。DeltaForge 宣称在特定工作负载下,其基准速度比标准 .NET ODBC 驱动程序快超过 13 倍,这支持组织希望避免为分析维护单独 Spark 集群的用例。

安装和 BI 集成直接,但假设技术设置

在 Windows 上,驱动程序作为签名的 MSI 提供,并通过 WinGet 可用,同时还为桌面提供捆绑的 Power BI 自定义连接器。对于系统管理员来说,安装是直接的,但将连接器集成到企业 BI 管道中需要配置对存储(S3、ADLS 或本地磁盘)的访问,并理解湖屋表布局。ADBC 标准绑定允许开发人员在凭据和端点到位后从代码调用驱动程序。

操作安全性和系统影响与高吞吐量分析需求一致

该驱动程序直接从对象存储读取表,并避免写入集群元数据,从而消除了对活动计算集群的依赖。由于它通过引用交付批次并避免 JVM 开销,与基于行的驱动程序相比,在大规模导出期间 CPU 和内存压力下降。对于需要回滚或快照安全的环境,这些保护必须在存储或表层进行管理,而不是由驱动程序本身管理。

最适合能够对湖仓存储运行查询的团队;建议在代表性数据上进行测试

DeltaForge ADBC 驱动程序是数据工程师和 BI 团队的务实选择,他们需要对 Delta Lake 或 Iceberg 表进行高吞吐量访问,而无需操作 Spark 集群。预计数据传输更快,本地 CPU 使用率更低,尽管集成它需要了解您的存储布局和访问控制。在将其部署到生产环境之前,请在数据集的副本上测试查询以验证权限和资源使用情况。推荐。

  • 赞成

    • Arrow原生零拷贝传输,减少CPU开销
    • Delta Lake 和 Apache Iceberg 表的直接读/写
    • 捆绑的 Power BI 连接器用于桌面集成
    • 已签名的MSI安装程序和Windows部署的WinGet可用性
  • 反对

    • 需要为 S3、ADLS 或本地磁盘配置存储访问
    • 操作安全性(快照/回滚)依赖于表存储,而不是驱动程序。

应用参数

应用程式 提供其他语言版本


免费下载 PC 版

查看广告以免费下载


用户对 DeltaForge ADBC Driver 的评分

您是否尝试过 DeltaForge ADBC Driver?成为第一个离开您的意见!

添加评论
有关使用此软件的法律因国家/地区而异。 如果违反这些法律,我们不鼓励或纵容此程序的使用。
已使用 登录 Softonic