这是我在Erlang中的第一步,很抱歉这个新手问题:)我正在为每个Redis请求产生一个新的Erlang进程,这不是我想要的(32k Erlang进程中的“太多进程”)但是如何例如,限制进程的数量最大。 16?
-module(queue_manager).
-export([add_ids/0, add_id/2]).
add_ids() ->
{ok, Client} = eredis:start_link(),
do_spawn(Client, lists:seq(1,100000)).
do_spawn(Client, [H|T]) ->
Pid = spawn(?MODULE, add_id, [Client, H]),
do_spawn(Client, T);
do_spawn(_, []) -> none.
add_id(C, Id) ->
{ok, _} = eredis:q(C, ["SADD", "todo_queue", Id]).
答案 0 :(得分:6)
尝试使用Erlang pg2
module。它允许您轻松创建进程组并提供API以获取组中“最接近”(或随机)的PID。
以下是eredis
客户端的进程组示例:
-module(redis_pg).
-export([create/1,
add_connections/1,
connection/0,
connections/0,
q/1]).
create(Count) ->
% create process group using the module name as the reference
pg2:create(?MODULE),
add_connections(Count).
% recursive helper for adding +Count+ connections
add_connections(Count) when Count > 0 ->
ok = add_connection(),
add_connections(Count - 1);
add_connections(_Count) ->
ok.
add_connection() ->
% start redis client connection
{ok, RedisPid} = eredis:start_link(),
% join the redis connection PID to the process group
pg2:join(?MODULE, RedisPid).
connection() ->
% get a random redis connection PID
pg2:get_closest_pid(?MODULE).
connections() ->
% get all redis connection PIDs in the group
pg2:get_members(?MODULE).
q(Argv) ->
% execute redis command +Argv+ using random connection
eredis:q(connection(), Argv).
以下是上述模块的示例:
1> redis_pg:create(16).
ok
2> redis_pg:connection().
<0.68.0>
3> redis_pg:connection().
<0.69.0>
4> redis_pg:connections().
[<0.53.0>,<0.56.0>,<0.57.0>,<0.58.0>,<0.59.0>,<0.60.0>,
<0.61.0>,<0.62.0>,<0.63.0>,<0.64.0>,<0.65.0>,<0.66.0>,
<0.67.0>,<0.68.0>,<0.69.0>,<0.70.0>]
5> redis_pg:q(["PING"]).
{ok,<<"PONG">>}
答案 1 :(得分:2)
您可以使用连接池,例如eredis_pool。 This is a similar question这对你来说很有意思。
答案 2 :(得分:1)
您可以使用主管启动每个新流程(例如,您似乎应该使用simple_one_for_one策略):
supervisor:start_child(SupRef, ChildSpec) -> startchild_ret()
。
您可以使用函数
访问进程计数 supervisor:count_children(SupRef) -> PropListOfCounts
。
结果是表单
的支持列表 [{specs,N1},{active,N2},{supervisors,N3},{workers,N4}]
(订单无法保证!)
如果您想了解有关活动进程的更多信息,还可以使用
supervisor:which_children(SupRef) -> [{Id, Child, Type, Modules}]
但是,当主管管理“大量”儿童时,不建议这样做。
答案 3 :(得分:1)
当您实施限制时,您基本上是“靠自己”。有一些工具可以帮助你,但我认为一般的问题是“如何避免产生过多的过程?”仍然持有。诀窍是跟踪某处的进程计数。
Erlang-idiomatic方式是拥有一个包含计数器的进程。每当你想要产生一个新进程时,你会问它是否允许这样做,通过注册对它的标记的需要。然后,您等待计数过程回复给您。
计数过程是一个很好的模块化人员,为你保持极限。