かなめのロジック

フリーランスSEの雑記ブログ。ORACLEやPostgreSQL、金融、フリーの働き方について主に書いています。

重複レコードの削除方法【PostgreSQL】

time 2018/04/07

重複レコードの削除方法【PostgreSQL】

PostgreSQLにおいて、データに重複があり内1レコードを残して他の重複レコードを削除するにはどのようにすればよいのか、重複データの確認方法と削除の方法をまとめました。

sponsored link

重複データの確認

削除の前に、まずは重複データの確認方法からです。

今回のブログで使用するテーブルの構造やデータは以下になります。

一意になるはずのキーで集約し、件数が1件より大きいデータを抽出します。
HAVING句を使用することで集約後の値に対して条件を指定できます。

重複データを削除

対象テーブル内の重複データを削除する場合、どのデータを残してもよい場合(すべての項目が同じ値の場合含む)と、特定の項目で優先順位をつける場合で方法が異なります。
どちらも、全体のデータ件数が多い場合や重複するデータ数が多い場合は、処理時間がかかることが想定されるます。事前に十分な検証を行いましょう。

どのデータを残してもよい場合(すべての項目が同じ値の場合含む)は、PostgreSQLによって暗黙的に定義されているctidシステム列を利用します。ctidは、テーブル内において行の物理的位置を表していて、一意であることを利用します。

残したいデータに優先順位をつける場合(一意キー以外の項目で差異が全くない場合は、1レコードだけ残るように削除する)は、複数回DELETE文を発行します。
以下は、項目cが大きい値を優先して残す場合です。

少し複雑になりますが、1回のSQLでDELETE文で削除することも可能です。

最後に

重複データの削除方法、実際に発生するとどうやって削除しようか戸惑うポイントかと思います。
本番運用時に発生し、解決まで時間の猶予なし、ということもあります。

いざ発生しても焦らないように解消方法を頭に入れておきましょう。

また、DBによって方法も異なるのも注意が必要です。(例えば、ORACLEではROWID擬似列を利用する)

sponsored link

管理人

かなめ

フリーランスになって5年目の業務系システムエンジニア。情報処理安全確保支援士。 ORACLEと金融と子育ての狭間で、元気に楽しくやってます。 [詳細]

管理人twitter

ブログ村

人気ブログランキング



sponsored link