データストア

dbt x snowflakeで使っていないテーブルとビューを安全に一括で削除する

概要 こんにちは、4月に新卒で株式会社CARTA HOLDINGSに入社し、現在はCARTA MARKETING FIRMのデータエンジニアをやっているharukiです。 私たちのチームでは、dbtとsnowflakeを使ってデータ基盤を構築しています。 データ基盤を使うエンジニアが増え、dbtの…

Snowflakeと共に過ごした一年間。その進化過程と未来へのVision

こんにちは、株式会社CARTA MARKETING FIRMのデータエンジニア、@pei0804です。 昨年、私たちはSnowflakeを中心に据えた「Vision」という新データ基盤構想を立ち上げました。 それから1年、多くの変化がありました。この記事では、Snowflake導入によって現場…

Snowflakeの力を引き出すためのdbtを活用したデータ基盤開発の全貌

当記事は、dbtのカレンダー | Advent Calendar 2023 - Qiita の23日目の記事です。 こんにちは、株式会社CARTA MARKETING FIRMのデータエンジニア、@pei0804です。データエンジニアリングのほか、組織運営やデータエンジニア育成にも携わっています。 本記事…

SELECTを使った手間なしSnowflakeコスト最適化

株式会社CARTA MARKETING FIRMで、データエンジニアをやっている@pei0804 です。 普段の業務は、データエンジニアの仕事はもちろん、組織・採用戦略を考えたり、データエンジニア育成など、データ活用を推進するための色々なことをやっています。 当記事では…

MemcachedからRedisへ移行する為の検証をやってみた。

MemcachedからRedisへ移行検証なのか・・ Memcachedとしては、 オンメモリストレージ 、シンプルなプロトコル等といった特徴があるので性能重視の処理等で重宝して使用していたが、デメリットとして、データの揮発性があげられる。データの揮発性を考慮し、M…