以下の式を解け、ということになる。

f(n＋1)＋0.2×f(n)＝2×f(n)

で、解いてみると以下。

f(n＋1)＋0.2×f(n)＝2×f(n)
f(n＋1)＝2×f(n)－0.2×f(n)
f(n＋1)＝1.8×f(n)

故に1世代後は1.8倍が正解。

初項1、公差1、項数nの等差数列の和を求めよって話になるので

n(n+1)/2

となる。
で、空文字列の場合があるので+1。

等差数列についてはwiki貼っとく。

有限オートマトンってなんぞ、の時点で躓きそうになるけど、
要するに矢印にそって行ったり来たりしてみればOK。
S₃に辿り着けるのは1101だけ。

有限オートマトンの解説は、とりあえずwikiで。