ヒント１：まずざっくりとイメージをつかむ
この問題は最初にａを定数とする。って書いてますね。まず、数学の問題を考えるときに重要だと思うのが、どこまでその式を具体的に見れるかです。定数は「変化しない数」つまり１とか２とか具体的な数ということで、まずは一番簡単な１としてみます。そうすると問題の式は
Ｙ＝（１－２－８）Ｘ＋１ つまり Ｙ＝－９Ｘ＋１となります。これはイメージし易いですね。
次にａを順に２、３、４、５としてみます。そうすると
ａ=2のとき Ｙ＝（４－４－８）Ｘ＋２
＝ －８Ｘ＋２
ａ=3のとき Ｙ＝（９－６－８）Ｘ＋３
＝ －５Ｘ＋３
ａ=4のとき Ｙ＝（16－8－８）Ｘ＋４
＝ 4
ａ=5のとき Ｙ＝（25－10－８）Ｘ＋５
＝ 7Ｘ＋5
グラフにするとこうなります。aの値が大きくなると傾きがどんどん大きくなっていくのがわかります。a=4だと傾きが０ ⇒ Y＝４という一定線になり、a=5だと傾きが正になりますね。
こんどはaが負の場合を見てみましょうか。a=0から-4まで変化させたときのグラフは
となります。a=5から-4まで順に見ていくと、グラフがどのように変わっていくか分かりやすいと思います。
ヒント２：「傾き」を理解する
次に「傾きが負になる」の部分です。
もし「傾き」って何ですか、って聞かれたらどうやって答えますか？ボンヤリしてて具体的に説明難しいですよね。私が説明するなら「Xが１増えたときにYが増える値」と答えます。理系で微分積分とかが出てきたら答えが変わりますが文系の人ならこれで充分。
例えば点ａと点ｂを通る１次直線Ｙ＝２Ｘの傾きを求める場合、下記のように傾き２と算出しますよね。つまりＸが１増える時にＹが２増える⇒傾きが正ということです。
同じように考えると
傾きが０ ⇒ Ｘが１増える時にＹは変わらない
傾きが負 ⇒ Ｘが１増える時にＹは減少する
となります。
正答と解説：問題の意図を理解する
式中の（ａ²－２ａ－８）部分は１次関数の傾きを表しています。つまりこの部分が負（マイナスの値）になると言ってるわけですね。それを式に表すと
（ａ²－２ａ－８）＜０
となります。これが成立するａの範囲を求めれば回答完了です。
まず最初にグラフをイメージするとわかりやすいと思います。ヨコ軸をａ、タテ軸を
（ａ²－２ａ－８）としたグラフのイメージは下図左の通りです。
考え方としては、式の中で一番次数の高い項（この場合ａ²）が正の場合、ａが大きくなると
必ず式全体が正になります。つまりグラフの右側が上がっていくということです。
逆に負の場合は、必ず式全体が負になります。それだけ理解していると間違えることは
ありませんね。
次に（ａ²－２ａ－８）＝０になるａを求めると、これが横軸と交差する値になります。
因数分解すると、(ａ＋２)(ａ－４)＝０ ⇒ ａ＝－２、４
つまり曲線は横軸と－２、４で交差します。
また、ａが０のとき曲線は縦軸と交差します。その値は（０²－２ｘ０－８）＝－８ つまり縦軸とー８のところで交差します。この3点を通るようにグラフを描くと下図のようになります。
最後に（ａ²－２ａ－８）が負になるａの範囲はどこか確認します。グラフを見ると、
－２＜ａ＜４の範囲で負になることがわかります。従い、これが回答となります。
回答：－２＜ａ＜４
基礎から見直したい項目がある時はスタディサプリがオススメです。
