Einer rechteckigen Auswahl per "Auswahl - Verändern - Abrunden" Rundungen zu verpassen würde ich sein lassen - die Rundungen sind damit nämlich hinterher alles andere als wirklich rund (stattdessen stufig, pixelig), wie doener ja au selbst schon gesagt hat.
Würde dir deswegen au das "Abgerundete-Rechteck-Werkzeug" empfehlen - das bietet wohl den besten Kompromiss aus einfacher Umsetzung und brauchbarer resultierender Qualität.
Hier eben nochmal Schritt für Schritt, wie ich das anpacken würde:
- dein zu bearbeitendes Bild öffnen, ggf. als neue Ebene in einem leeren Dokument einfügen - je nachdem, was du nachher damit machen willst. Falls du direkt an der Bilddatei arbeiten willst, würde es sich anbieten, die Arbeitsfläche zur Bearbeitung etwas zu vergrößern ("Bild" - "Arbeitsfläche" - ...) - erleichtert nachher das Aufziehen des Rechteck-Pfades
- das "Abgerundete-Rechteck-Werkzeug" aus der Werkzeugpalette auswählen, alternativ den Shortcut "u" verwenden (allerdings darauf achten, dass auch wirklich das richtige Werkzeug ausgewählt is und nicht etwa das normale Rechteck!)
- oben den gewünschten Radius für deine Rundungen eintragen
- nun eben ein Rechteck mit den abgerundete Ecken über deinem Foto aufziehen, wobei die Kontur des so erstellten Pfades in etwa deckungsgleich mit den Kanten deines Fotos liegen sollten (insofern du das gesamte Bild beibehalten willst - soll es dagegen nur ein Ausschnitt sein, so wählst du eben diesen aus)
- sollte der Pfad nicht auf Anhieb exakt so liegen, wie du es gerne hättest, wähle das "Pfad-umwandeln-Werkzeug" aus der Werkzeugpalette, und ziehe damit eine Auswahl über den Bereich des eben erstellten Pfades, den du verschieben willst. Sobald die Punkte markiert sind, einfach direkt am Pfad "anpacken" und das Ganze zurechtziehen, bis du zufrieden bist
- mit weiterhin ausgewähltem Pfad- oder Formwerkzeug (Shortcut "u" oder "p", spielt keine Rolle) Rechtsklick in den eben erstellten Pfad (das eigentliche Rechteck mit den abgerundeten Kanten), dort "Auswahl erstellen" auswählen und im sich öffnenden Fenster mit einem Klick auf "OK" bestätigen
- zum "Auswahl-Werkzeug" (Shortcut "m") wechseln, erneut Rechtsklick in die nun blickende Auswahl und hier "Auswahl umkehren" auswählen
- nun noch einmal auf "entf" drücken, und die "eckigen Ecken" deines Fotos sind Geschichte
Anschließend kannst du nun dein Foto mit den eben erstellten runden Ecken beliebig weiterverwenden. Um es in die Zwischenablage zu laden, reicht ja ein Rechtsklick auf die entsprechende Ebene bei gehaltener "Strg"-Taste um eben dein Foto auszuwählen, gefolgt von einem "Strg+c".
Ich hab das Ganze nun mal sehr ausführlich geschrieben - allerdings nur, um auf Nummer sicher zu gehen. Also, versteh mich bitte nicht falsch - ich will dir damit nicht unterstellen, dass du keine Ahnung von Phtoshop hättest. Nur erklär ich sowas lieber einmal etwas zu ausführlich, anstatt dann dreimal nachhelfen zu müssen.
Falls es trotzdem noch Fragen geben sollte, lass es mich wissen - helfe gern so gut wie möglich weiter.