isupper(letter); возвращает 1 если letter содержит код буквы верхнего регистра, иначе 0. если вы вводите любую букву, то к началу проверки
((letter !='Y') && (letter !='N')); letter содержит или 1 или 0.
чтобы перевести символ в верхний регистр используйте int toupper(int ch);
--------------------------------------------------------------------------------
Добавлено сообщение
--------------------------------------------------------------------------------
cin.get() ждет пока пользователь нажмет <enter>, вместо него можно использовать getche():
Код: Выделить всё
#include <iostream>
#include <conio.h>
using std::cout;
using std::endl;
int main() {
char letter;
cout << " Xo4esh IIPogoJI}|{uTb? (Y/N): " << endl;
do{
letter = getche();
letter = toupper(letter);
}
while(letter !='Y' && letter !='N');
cout << endl << "Tu BBeJI" << letter << endl;
system("pause");
return 0;
}