ご質問ありがとうございます。回答が遅くなってしまってごめんなさい。今回は理学部数学科のAO入試を受験、合格した2年生の2人からの回答です。

1人目
「課題探求試験の詳細は覚えていませんが、大問5つの中に小問がありました。
大問の構成は以下の通りです。
①相加相乗平均の3つverの証明
②数学的帰納法を使う等式の証明
③トランプの確率の問題
④積分
⑤複素数or行列
時間に関しては、私は時間いっぱい使って考えたので余ることはなかったのですが、普通の模試などよりは十分に時間があります。
また、口頭試問も書いておきます。
①ふたつの素数p,qで表されるN=pqが完全数になるp,qの組を全て求めよ
②導関数が常に0である連続関数は定数関数であることを証明せよ
③因数定理とはどういうものか説明せよ
④区分求積法を用いてx^2を[0,1]で積分せよ
⑤正多面体が5つしかないことを証明せよ
が問われました。
実際に受けてみて、AOの対策といった勉強はしなくても良いと思いました。(対策のために先生と１か月練習したところは一切出ませんでした笑笑)しかし、高校数学の範囲で有名な発展的内容は知っておくと良いかもしれません。
過去の問題は私の学校にはありませんでしたが、高校の先生が持っている場合もあるようです。
参考程度に、私のセンター試験の点数は756/900でした。」

2人目
「センター試験で獲得すべき得点の幅ですが、合格者の得点は広いです。600点に到達してなくても合格していた人がいます。僕の場合は学校に過去問がありました。
課題探求試験は数学のテストです。しかし、計算問題というよりは、公式を証明するような問題が出題されます。大体ですが、6割取れていれば合格できると思います。」

とのことでした。参考になさってください。
私は数学が苦手なので読んでいると眠くなりそうです笑
4月からは高校3年生でしょうか？勉強頑張ってくださいね！