У вас завдання не важке потрібно лише передавати в функцію a, b, c, знаходити дискримінант і залежно від нього, порахувати корені і повернути кількість коренів. Для того, щоб ви зрозуміли, як в вашій функції передавати корені по силці, або вказівнику ось приклад.

#include <iostream>
using namespace std;
// варіант 1 посилання
void func(double& x1, double& x2){
    x1 = 2;
    x2 = 3;
}
// варіант 2 вказівник
void func(double* x1, double* x2){
    *x1 = 4;
    *x2 = 5;
}
int main(){
    double x1, x2; 
    func(x1, x2); // 1 варіант
    cout << x1 << " " << x2 << endl;
    func(&x1, &x2); // 2 варіант
    cout << x1 << " " << x2 << endl;
}

Форум створений, щоб допомогти, а не писати повністю код за вас, по крайній мірі за просто так, можете почитати про квадратичне рівняння.