Попробую объяснить как я делаю картинку с закругленными концами
1.Открываем картинку в фотошопе. У меня CS3.
2.Берем инструмент прямоугольник со скругленными концами
и выставляем параметры (по усмотрению, какой радиус округления нужен)
3.Обводим необходимый фрагмент картинки
4.Далее выставляем раскладку клавиатуры на английскую, т.е. чтобы значок языка был EN на отображении языковой панели компьютера и нажимаем вместе Ctrl и Enter
5.Далее в панели инструментов выбираем инструмент рамку 
[показать]
6.наводим на картинку и щелкаем левой кнопкой мыши [показать]
по вылезшему меню выбираем - инверсия выделенной области и у вас должно получиться так:
Далее нажимаем Delete .
Должно получиться так [показать]
7. Далее картинку сохраняем как обычно в CS3 или нажатием клавиш Ait+Shift+Ctrl+S Картинку нужно сохранить в формате png или gif [показать]
Надеюсь что понятно))
[400x400]
[600x544]
[показать]
Потом наводим мышку на наш рисунок и щелкаем левой кнопкой мыши и тогда вылезет меню - в котором выбираем - инверсия выделенной области. и дальше по уроку делаем) Должно получиться)))