Для определения верного написания безударных окончаний имен прилагательных нужно помнить, что прилагательные  согласуются в роде, числе и падеже с именем существительным. Чтобы определить верное написание безударного окончания прилагательного, мы должны задать вопрос от имени существительного, к которому оно относится. 

Например: подруге (какой?) верной, девушку (какую?) смелую. 

Если в окончании вопроса, который мы задаём, есть буква О, то в окончании прилагательного напишем О или Е:

морю (какому?) огромному, синему.

Если в окончании вопроса есть буква И, то в окончании прилагательного пишем И или Ы:

морем (каким?) огромным, синим. 

Буквы О, Ы напишем после твёрдых согласных, а Е, И - после мягких.

У прилагательных  женского рода в форме винительного падежа с основой на мягкий согласный окончание будет - ЮЮ: собаку (какую?) домашнюю. 

Рассуждаем так: 

мил...му котёнку.  Котёнку (какому?) мил...му. В вопросе видим в окончании букву О, поэтому в окончании прилагательного пишем букву О: милому