要するに、以下の式が成り立つnおよびαの条件を求めよ、と。

(1＋α)ⁿ ≒ 1＋n×α

選択肢を全部仮定で当てはめて計算するしかないっぽい。
|α|が絶対値だって言うのをスコンと忘れてましたね。

追記：
久々に問題見てみて思ったけど、
1のn乗は必ず1なので以下の書き換えが成立する。

(1＋α)ⁿ ≒ 1＋n×α
1＋αⁿ ≒ 1＋n×α
αⁿ ≒ n×α

選択肢4つの中で

αⁿ ≒ n×α

が成立するのは｜α｜が1に比べて非常に小さい時だけ。

理解するには数学的知識が必要になりそうなので、とりあえず丸覚えでGO。
待ち行列モデル自体は他にも様々あるが、試験で頻出なのはＭ／Ｍ／１モデルのみ。
概ね１問は出るので、押さえておくと１問ゲット。

公式：

Tw = Ts * ρ / (1 − ρ)

Tw…平均待ち時間
Ts…平均サービス時間
ρ…サービス利用率

利用率が4割で平均サービス時間が6分の場合、平均待ち時間は4分。

Tw = 6 * 0.4 / (1 – 0.4) = 6 * 0.4 / 0.6 = 4

利用率が5割で平均サービス時間が6分の場合、平均待ち時間は6分。

Tw = 6 * 0.5 / (1 – 0.5) = 6 * 0.5 / 0.5 = 6

利用率が6割で平均サービス時間が6分の場合、平均待ち時間は9分。

Tw = 6 * 0.6 / (1 – 0.6) = 6 * 0.6 / 0.4 = 9

平均待ち時間が平均サービス時間より長くなるには、

ρ / (1 − ρ) > 1

であるワケなので、「50％を超えた時」が正解。

【補足】
Ｍ／Ｍ／１の待ち行列モデル：
ケンドールの記法で表記された待ち行列のモデルで、以下の三条件が成立する状態を指す。
なお、サービス要求は到着順に受け付け、行列へ割り込んだり、列の途中で抜け出すことは考えないものとする。

Ｍ…サービス要求の到着間隔がランダム（ポアゾン分布に従う）
Ｍ…窓口を使用する時間は要求ごとにランダム（指数分布に従う）
１…待ち行列のサービス窓口は1個

ケンドール記法：
参照→wiki