使用移动时间窗口计算运行总和

时间:2019-02-08 13:47:56

标签: stata duration survival-analysis

我的数据

我正在使用以下格式的咒语数据集:

cls
clear all
set more off

input id spellnr  str7 bdate_str  str7 edate_str  employed
       1    1         2008m1          2008m9          1  
       1    2        2008m12          2009m8          0   
       1    3        2009m11          2010m9          1  
       1    4        2010m10          2011m9          0  
       ///
       2    1         2007m4         2009m12          1
       2    2         2010m4          2011m4          1
       2    3         2011m6          2011m8          0
end

* translate to Stata monthly dates
gen bdate = monthly(bdate_str,"YM")
gen edate = monthly(edate_str,"YM")
drop *_str
format %tm bdate edate

list, sepby(id)

对应于:

     +---------------------------------------------+
     | id   spellnr   employed     bdate     edate |
     |---------------------------------------------|
  1. |  1         1          1    2008m1    2008m9 |
  2. |  1         2          0   2008m12    2009m8 |
  3. |  1         3          1   2009m11    2010m9 |
  4. |  1         4          0   2010m10    2011m9 |
     |---------------------------------------------|
  5. |  2         1          1    2007m4   2009m12 |
  6. |  2         2          1    2010m4    2011m4 |
  7. |  2         3          0    2011m6    2011m8 |
     +---------------------------------------------+

给定的人(id)可以具有两种类型的多种咒语(spellnr)(unempl:失业1;就业0。每个咒语的开始日期分别由bdateedate定义。

想象一下数据已经被清除,并且没有咒语重叠。 不过,任何两个咒语之间可能都存在“缺失”时期。 这是由上面的虚拟数据集捕获的。

我的问题:

对于每个失业期,我需要计算最近6个月,12个月和24个月在就业中花费的月数。

请注意,重要的是,每个id都可以进出工作,并且所有过去的工作经历应该被考虑在内(而不仅仅是最后一个)。

在我的示例中,这将导致以下期望的输出:

     +--------------------------------------------------------------+
     | id   spellnr   employed     bdate     edate   m6   m24   m48 |
     |--------------------------------------------------------------|
  1. |  1         1          1    2008m1    2008m9    .     .     . |
  2. |  1         2          0   2008m12    2009m8    4     9     9 |
  3. |  1         3          1   2009m11    2010m9    .     .     . |
  4. |  1         4          0   2010m10    2011m9    6    11    20 |
     |--------------------------------------------------------------|
  5. |  2         1          1    2007m4   2009m12    .     .     . |
  6. |  2         2          1    2010m4    2011m4    .     .     . |
  7. |  2         3          0    2011m6    2011m8    5    20    44 |
     +--------------------------------------------------------------+

我(正在工作)的尝试:

以下代码返回所需结果。

* expand each spell to one observation per time unit (here "months"; works also for days)
expand edate-bdate+1
bysort id spellnr: gen spell_date = bdate + _n - 1
format %tm spell_date
list, sepby(id spellnr)

* fill-in empty months (not covered by spells)
xtset id spell_date, monthly 
tsfill

* compute cumulative time spent in employment and lagged values
bysort id (spell_date): gen cum_empl = sum(employed) if employed==1
bysort id (spell_date): replace cum_empl = cum_empl[_n-1] if cum_empl==.
bysort id (spell_date): gen lag_7  = L7.cum_empl  if employed==0  
bysort id (spell_date): gen lag_24 = L25.cum_empl if employed==0
bysort id (spell_date): gen lag_48 = L49.cum_empl if employed==0
qui replace lag_7=0  if lag_7==.  & employed==0  // fix computation for first spell of each "id" (if not enough time to go back with "L.")
qui replace lag_24=0 if lag_24==. & employed==0  
qui replace lag_48=0 if lag_48==. & employed==0  

* compute time spent in employment in the last 6, 24, 48 months, at the beginning of each unemployment spell
bysort id (spell_date): gen m6  = cum_empl - lag_7  if employed==0  
bysort id (spell_date): gen m24 = cum_empl - lag_24 if employed==0
bysort id (spell_date): gen m48 = cum_empl - lag_48 if employed==0
qui drop if (spellnr==.)
qui bysort id spellnr (spell_date): keep if _n == 1
drop spell_date cum_empl lag_*

list

这很好用,但是在使用(数百万)的每日数据时效率很低。您能建议不涉及扩展数据集的任何替代方法吗?

我上面的意思是:

  1. 我将数据扩展为每月有一行;
  2. 我用-tsfill-填充法术之间的“空隙”
  3. 我计算在工作上花费的运行时间,并使用滞后算子获得这三个数量的利息。

这是我之前发布的问题中here所做的事情。但是,该工作示例不必要地复杂且存在一些错误。


解决方案性能

我尝试了下面接受的答案中建议的不同方法(包括使用答案的早期版本中的joinby)。为了创建更大的数据集,我使用了:

expand 500000
bysort id spellnr: gen new_id = _n
drop id 
rename new_id id

会创建一个具有500,000个ID的数据集(总共3,500,000个咒语)。 第一个解决方案主要在使用joinbyrangejoin的解决方案中占主导地位(另请参见下面对已接受答案的注释)。

1 个答案:

答案 0 :(得分:1)

下面的代码可能节省一些运行时间。

bys id (employed): gen tag = _n if !employed
sum tag, meanonly
local maxtag = `r(max)'

foreach i in 6 24 48 {
gen m`i' = .

    forval d = 1/`maxtag' {
    by id: gen x = 1 + min(bdate[`d'],edate) - max(bdate[`d']-`i',bdate) if employed
    egen y = total(x*(x>0)), by(id)
    replace m`i' = y if tag == `d'
    drop x y
    }
}
sort id bdate

相同的逻辑以及 -rangejoin-(ssc)也应尝试。测试完您的(大)实际数据后,请提供一些反馈。

preserve
    keep if employed
    replace employed = 0
    tempfile em
    save `em'
restore

foreach i in 6 24 48 {
gen _bd = bdate - `i'
rangejoin edate _bd bdate using `em', by(id employed) p(_)

egen m`i' = total(_edate - max(_bd,_bdate)+1) if !employed, by(id bdate)
bys id bdate: keep if _n==1
drop _*
}