Закругленные края

Открываем картинку в фотошопе. Выбираем в панели инструментов Rounded Rectangle Tool:

Степень закругленности задается в верхней панели - Radius.

Создаем на картинке фигуру. Автоматически создается новый слой с маской, залитый цветом, установленным на панели.

Идем в меню Layer -> Rasterize Layer. Слой с маской превратился в обычный. Берем волшебную палочку и выделяем ей нашу фигуру. Жмем на выделении правой кнопкой мыши и выбираем Select Inverse. Удаляе