Photoshopで作った台紙に、ファイル＞配置...（または埋め込みを配置）で写真を取り込んでレイアウトしようとしているのでしょうか？
そのやり方で行う場合は、元の台紙が十分なピクセル数を持っていないと荒く見えてしまうかと思います。
例えばA4サイズでしたら、新規作成で21cm×29.7cm（印刷会社発注の場合は縦横+6mm）で解像度を350から600程度にし、その上で「配置」を行ってください。
＃それでも、配置した画像はリサイズされるため元の細やかさを維持しません。
＃もしInDesignやIllustratorをお持ちでしたら、そちらで配置・レイアウトすれば、少なくとも書き出しや最終出力まで画像の「劣化」はありません。
そうではなく、配置した瞬間の荒さが気になる、ということでしたら、Photoshop環境設定＞一般の「オプション」欄から「画像をサイズ変更して配置」をオフにしてください。台紙に合わせ た自動的な変倍が行われなくなります（作業し辛いと思いますが）
同時に「ラスター画像をスマートオブジェクトとして配置またはドラッグ（または、「配置時にスマートオブジェクトを常に作成」）にチェックを入れておくとよいと思います。配置後の変倍に強くな ります。
情報が少し足りないのでいろいろと書きましたが、上記とまた違う、という時はお返事ください。