Предположим Вы хотите установить кодировку '''AL32UTF8'''.

Нужно узнать, присутствует ли необходимая вам кодировка в списке допустимых:

<code sql>
SQL> select value from V$NLS_VALID_VALUES
          where parameter='CHARACTERSET'
          and value like 'AL%'
</code>

Допустим Вы имеете '''WE8ISO8859P1''', и хотите изменить ее на '''AL32UTF8'''.

<code sql>
SQL> select * from props$ where name='NLS_CHARACTERSET';

NLS_CHARACTERSET 
----------------
WE8ISO8859P1    
</code>

для это обновляем таблицу, на необходимую кодировку

<code sql>
SQL> update props$ set VALUE$='AL32UTF8' where name='NLS_CHARACTERSET';
</code>

'''PROPS$''' - это fixed table, где хранится информация об NLS и не только. Несмотря на термин fixed многие версии Oracle позволяют производить UPDATE над ней (хотя не все - какие-то версии Personal Oracle не допускают этого).