не знаю как в фотошопе , но есть отличный сайт , загружаешь фотку и балуешся , там можно сделать такую окраску фотки и углы http://www.picnik.com/app#/home/welcome
upload photo и потом делай что угодно . потом сохраняешь и готово =)
лично я очень долго мучалась))в итоге придумала новый способ:D
создаешь два слоя, на одном создаешь квадратик с закругленными концами (то что будет выглядывать из-под него и есть ваша будующая рамка), другой слой весь заливаешь белым (или любым други, зависит от того какую рамку хотите). Затем переходим на слой с квадративом и выделяем его (Ctrl+клик по картинке слоя в панели слоев), теперь этот слой можно либо стереть, либо удалить. После этого снова переходим на слой с заливкой и большим ластиком стираем все ненужное. Снимаем выделение и рамка готова!))
вот. надеюсь я все доступно обьяснила^_^