Cassandra CQLEngine允许过滤

时间:2018-08-06 07:19:24

标签: database cassandra cql cassandra-3.0 cqlengine

我正在使用Python Cassandra Cqlengine扩展。我创建了多对多表,但是在user_applications模型查询过滤过程中收到错误。我已阅读有关此问题的其他资源,但我并未完全理解此问题。

来源: https://ohioedge.com/2017/07/05/cassandra-primary-key-partitioning-key-clustering-key-a-simple-explanation/

Cassandra Allow filtering

Is ALLOW FILTERING in Cassandra for following query efficient?

数据库模型:

class UserApplications(BaseModel):
    __table_name__ = "user_applications"

    user_id = columns.UUID(required=True, primary_key=True, index=True)
    application_id = columns.UUID(required=True, primary_key=True, index=True)
    membership_id = columns.UUID(required=True, primary_key=True, index=True)

错误消息:

  

无法执行此查询,因为它可能涉及数据过滤,因此可能具有不可预测的性能。如果尽管性能不可预测但仍要执行此查询,请使用ALLOW FILTERING“

Python CQLEngine代码:

q = UserApplications.filter(membership_id=r.membership_id,
                                    user_id=r.user_id,
                                    application_id=r.application_id)

CQLEngine SQL语句:

SELECT "id", "status", "created_date", "update_date" FROM db.user_applications WHERE "membership_id" = %(0)s AND "user_id" = %(1)s AND "application_id" = %(2)s LIMIT 10000

描述表结果:

CREATE TABLE db.user_applications (
    id uuid,
    user_id uuid,
    application_id uuid,
    membership_id uuid,
    created_date timestamp,
    status int,
    update_date timestamp,
    PRIMARY KEY (id, user_id, application_id, membership_id)
) WITH CLUSTERING ORDER BY (user_id ASC, application_id ASC, membership_id ASC)
    AND bloom_filter_fp_chance = 0.01
    AND caching = {'keys': 'ALL', 'rows_per_partition': 'NONE'}
    AND comment = ''
    AND compaction = {'class': 'org.apache.cassandra.db.compaction.SizeTieredCompactionStrategy', 'max_threshold': '32', 'min_threshold': '4'}
    AND compression = {'chunk_length_in_kb': '64', 'class': 'org.apache.cassandra.io.compress.LZ4Compressor'}
    AND crc_check_chance = 1.0
    AND dclocal_read_repair_chance = 0.1
    AND default_time_to_live = 0
    AND gc_grace_seconds = 864000
    AND max_index_interval = 2048
    AND memtable_flush_period_in_ms = 0
    AND min_index_interval = 128
    AND read_repair_chance = 0.0
    AND speculative_retry = '99PERCENTILE';
CREATE INDEX user_applications_membership_id_idx ON db.user_applications (membership_id);

等待您的帮助。

1 个答案:

答案 0 :(得分:2)

出现此错误的原因是,您没有在查询中添加ALLOW FILTERING标志,如果在查询的末尾添加ALLOW FILTERING,它应该可以工作。

在Cassandra查询中使用ALLOW FILTERING实际上允许cassandra在加载某些行之后(可能是在从表加载所有行之后)过滤掉某些行。例如,对于您的查询,Cassandra执行此查询的唯一方法是从表UserApplications中检索所有行,然后过滤出您要限制的每个列都不具有请求值的行。

使用ALLOW FILTERING可能会产生不可预测的性能结果,而实际性能取决于表内的数据分布。例如,如果您的表包含一百万行,并且其中95%的列具有所请求的列值,则您指定的查询仍然相对有效,您应该使用ALLOW FILTERING。另一方面,如果表包含一百万行,而只有两行包含所请求的值,则查询效率极低。 Cassandra将不加载任何999、998行。通常,如果您的查询需要添加ALLOW FILTERING,那么您可能应该重新考虑您的架构或为您经常查询的列添加二级索引。

在您的情况下,我建议将Membership_id,user_id,application_id列作为复合分区键。如果这样做,您将不再需要在加载后过滤掉任何行,因为三列具有相同值的所有行都将位于同一分区(在同一物理节点中),并且应在查询(您已经在问题中添加的查询中执行了此操作)。这是您可以这样做的方法:

CREATE TABLE db.user_applications (
    user_id uuid,
    application_id uuid,
    membership_id uuid,
    created_date timestamp,
    status int,
    update_date timestamp,
    PRIMARY KEY ((user_id, application_id, membership_id))
);